Ideen-Verwaltung

Idee bearbeiten

Kurzbezeichnung *

Thema

Idee *

Hinweise zur Optimierung von RAG-Anwendungen (Retrieval-Augmented Generation): Markdown-Format verbessert die Retrieval-Qualitaet deutlich. PDFs koennen direkt hochgeladen oder in Markdown umgewandelt werden - viele Anwendungen erledigen dies automatisch. Empfehlung: Erst ohne Markdown-Umwandlung testen; nur bei Problemen in Markdown konvertieren. Alternativ kann Q&A-Format verwendet werden. Lange Texte koennen zusammengefasst werden, um kuerzere Chunks mit hoehere Trefferquote zu erzeugen - bei sehr grossen Textmengen wie ganzen Buecher empfohlen. LLMs koennen zur Zusammenfassung genutzt werden. Chunk-Groesse und Overlap muessen ausbalanciert werden: Zu kleine Chunks verlieren Kontext, zu grosse reduzieren Retrieval-Qualitaet. Faustregel: Overlap ca. 10-20% der Chunk-Groesse. Fuer grosse Textbloecke: bis zu 2000 Tokens pro Chunk, Overlap ca. 200-400 Tokens. Fuer kleine Texte, Zahlen oder Tabellen: ca. 800 Tokens, Overlap ca. 100 Tokens. Spezielle Chunking-Strategien wie Contextual Retrieval werden spaeter behandelt. Nach Erstellung eines Bots diesen testen und bei Bedarf Chunking oder Struktur anpassen. Keine unnoetige Daten in RAG-Anwendungen speichern. RAG funktioniert nicht nur mit Vektordatenbanken, sondern auch mit normalen SQL-Tabellen.

Zusätzliche Beschreibung (optional)

Kategorie

Priorität

Status

Quelle

Angehängte Dokumente (ein Link pro Zeile)

Abbrechen