~/ / Эмбеддинги и поиск (RAG)
Инструменты для пошаговой сборки RAG (генерации с дополнением результатами поиска). Разбивайте документы на чанки, сравнивайте эмбеддинги, храните их и ищите по ним в PostgreSQL с pgvector, составляйте промпт, который отвечает только по источникам, и проверяйте, что цитаты в ответе совпадают с ними.
Эмбеддинги Ollama в PostgreSQL с pgvector, поиск через HNSW или IVFFlat и передача результатов в /api/chat, чтобы ответ ссылался на источники.
Опубликовано: Доступные инструменты: pgvector SQL Builder, Embeddings to pgvector INSERT, RAG Prompt Builder, RAG Citation Checker
Создание эмбеддингов через /api/embed в Ollama: модели и их размеры, truncate и dimensions, векторы единичной длины и косинусное сходство, по официальной документации.
Опубликовано: Доступные инструменты: RAG Text Chunker, Embedding Similarity Calculator