Retrieval-Augmented Generation
Antworten aus den eigenen Dokumenten statt aus dem Trainingsgedächtnis.
Ein Embedding ist die Übersetzung eines Textes, Bildes oder anderen Inhalts in eine lange Zahlenreihe, einen sogenannten Vektor. Inhalte mit ähnlicher Bedeutung erhalten ähnliche Vektoren. Embeddings ermöglichen semantische Suche — Treffer nach Sinn statt nach exaktem Wortlaut — und sind die Grundlage von RAG-Systemen und Vektordatenbanken.
Ein Embedding-Modell liest einen Textabschnitt und gibt eine Liste aus Hunderten oder Tausenden Zahlen zurück. Jede Zahl beschreibt eine Bedeutungsdimension, die das Modell selbst gelernt hat. Rechnet man den Abstand zwischen zwei Vektoren aus, erhält man ein Maß für inhaltliche Nähe: „Lieferverzug“ und „Ware kommt zu spät“ liegen dicht beieinander, obwohl sie kein Wort teilen.
Gespeichert werden diese Vektoren in einer Vektordatenbank — spezialisierte Systeme wie Pinecone oder das Berliner Qdrant, oder klassische Datenbanken mit Vektorerweiterung wie PostgreSQL mit pgvector. Bei einer Frage wird auch die Frage in einen Vektor übersetzt, die Datenbank liefert die nächstgelegenen Textstücke, und das Sprachmodell formuliert daraus die Antwort. Genau das ist der Retrieval-Schritt in RAG.
Für den Mittelstand heißt das: Die Qualität eines internen Wissens-Assistenten entscheidet sich weniger beim Sprachmodell als bei der Aufbereitung der Dokumente. Wie Texte in Abschnitte geschnitten werden, welche veralteten Fassungen aussortiert werden, welche Metadaten dazukommen — das bestimmt, ob die Suche das Richtige findet.
Vertiefung im Blog: Wissensmanagement & KI: Der Knowledge Layer →
Wo Embedding im betrieblichen Alltag konkret wird — Beispiele aus der Arbeit mit mittelständischen Unternehmen.
Servicetechniker finden in tausenden Wartungsberichten ähnliche Störfälle, auch bei anderer Wortwahl
Eingehende Anfragen automatisch dem passenden Fachbereich oder Ansprechpartner zuordnen
Doppelte oder fast identische Artikel im Produktstamm aufspüren
Sie wollen Embedding nicht nur verstehen, sondern im eigenen Unternehmen nutzen?
KI-Beratung & Umsetzung →Antworten aus den eigenen Dokumenten statt aus dem Trainingsgedächtnis.
Das Sprachmodell unter ChatGPT & Co. — es rechnet Wahrscheinlichkeiten, keine Wahrheit.
Die Währung der Sprachmodelle: Sie lesen keine Wörter, sie zählen Silben-Stücke.
Lernen aus Daten statt aus festen Regeln — das Fundament fast jeder KI.
Eine Datenbank, die Embeddings speichert und sehr schnell die Vektoren findet, die einer Anfrage inhaltlich am nächsten liegen. Bekannte Lösungen sind Pinecone, Qdrant, Weaviate oder PostgreSQL mit der Erweiterung pgvector.
Die Stichwortsuche findet nur Dokumente, die das gesuchte Wort enthalten. Die semantische Suche über Embeddings findet Inhalte mit ähnlicher Bedeutung, auch wenn andere Begriffe verwendet werden. In der Praxis kombinieren viele Systeme beide Verfahren.
Nein. Sie wird relevant, wenn eine KI auf größere eigene Wissensbestände zugreifen soll. Für einzelne Dokumente reicht es oft, sie direkt in das Kontextfenster eines Modells zu laden.
Von Embedding zur Anwendung im eigenen Betrieb: Als Keynote Speaker und KI-Berater zeige ich Entscheidern im Mittelstand, wo KI Arbeit abnimmt — und wo nicht.