~/ / Embedding và tìm kiếm (RAG)

Embedding và tìm kiếm (RAG)

Các công cụ để xây dựng từng bước quy trình sinh có truy xuất bổ trợ (RAG). Chia tài liệu thành các chunk, so sánh embedding, lưu và tìm kiếm chúng trong PostgreSQL bằng pgvector, tạo prompt chỉ trả lời dựa trên nguồn, rồi kiểm tra xem các trích dẫn trong câu trả lời có khớp với nguồn hay không.

Các công cụ, theo thứ tự bạn dùng

  1. Chia văn bản cho RAG và dựng yêu cầu Ollama /api/embedRAG Text ChunkerChia văn bản thành các chunk có chồng lấn và dựng yêu cầu /api/embed của Ollama cho RAG
  2. So sánh vector embedding từ Ollama /api/embedEmbedding Similarity CalculatorSo sánh vector embedding từ Ollama /api/embed: độ tương đồng cosine, tích vô hướng, khoảng cách
  3. Viết SQL pgvector: bảng, chỉ mục HNSW/IVFFlat và truy vấn láng giềng gần nhấtpgvector SQL BuilderViết SQL cho pgvector: bảng, chỉ mục HNSW hoặc IVFFlat và truy vấn láng giềng gần nhất
  4. Biến kết quả /api/embed của Ollama và văn bản thành INSERT cho pgvectorEmbeddings to pgvector INSERTBiến kết quả /api/embed của Ollama và các văn bản thành câu lệnh INSERT cho pgvector
  5. Tạo yêu cầu Ollama /api/chat chỉ trả lời từ các nguồn có đánh số, có trích dẫnRAG Prompt BuilderTạo yêu cầu /api/chat của Ollama chỉ trả lời từ các nguồn có đánh số và trích dẫn chúng
  6. Kiểm tra số nguồn và đoạn trích trong câu trả lời RAG so với các nguồn đã gửiRAG Citation CheckerKiểm tra rằng các số nguồn và đoạn trích trong một câu trả lời RAG thật sự khớp với các nguồn

Bài viết về chủ đề này

Các chủ đề khác