~/ / Embeddings und Suche (RAG)
Tools, um Retrieval-Augmented Generation (RAG) Schritt für Schritt aufzubauen. Zerlege Dokumente in Chunks, vergleiche Embeddings, speichere und durchsuche sie in PostgreSQL mit pgvector, baue einen Prompt, der nur aus den Quellen antwortet, und prüfe, ob die Zitate in der Antwort zu den Quellen passen.
Ollama-Embeddings mit pgvector in PostgreSQL speichern, mit HNSW oder IVFFlat durchsuchen und die Ergebnisse an /api/chat übergeben, damit die Antwort ihre Quellen zitiert.
Veröffentlicht: Werkzeuge zum Ausprobieren: pgvector SQL Builder, Embeddings to pgvector INSERT, RAG Prompt Builder, RAG Citation Checker
Embeddings mit /api/embed von Ollama erzeugen: die Modelle und ihre Größen, truncate und dimensions, Vektoren mit Länge 1 und Kosinus-Ähnlichkeit, nach der offiziellen Dokumentation.
Veröffentlicht: Werkzeuge zum Ausprobieren: RAG Text Chunker, Embedding Similarity Calculator