Retrieval-Augmented Generation
Antworten aus den eigenen Dokumenten statt aus dem Trainingsgedächtnis.
Fine-Tuning ist das gezielte Nachtrainieren eines bereits vortrainierten KI-Modells mit eigenen, meist kleineren Datensätzen. Dabei werden die internen Gewichte des Modells angepasst, sodass es einen bestimmten Stil, ein Format oder eine Fachaufgabe zuverlässiger beherrscht. Anders als RAG verändert Fine-Tuning das Modell selbst, nicht nur die mitgegebenen Informationen.
Ein Sprachmodell lernt im Vortraining aus riesigen Textmengen allgemeine Sprache. Beim Fine-Tuning bekommt es anschließend Hunderte oder Tausende Beispielpaare aus Eingabe und gewünschter Ausgabe und passt seine Gewichte daran an. Verfahren wie LoRA, 2021 von Forschern bei Microsoft vorgestellt, verändern dabei nur einen kleinen Teil der Parameter — das senkt Rechenaufwand und Kosten deutlich.
Der häufigste Irrtum im Mittelstand: Fine-Tuning sei der Weg, einer KI das Firmenwissen beizubringen. Für Fakten, die sich ändern — Preise, Produktdaten, Richtlinien — ist RAG fast immer die bessere Wahl, weil sich Quellen austauschen lassen, ohne neu zu trainieren. Fine-Tuning lohnt sich dort, wo es um Verhalten geht: ein festes Ausgabeformat, eine Fachsprache, eine Klassifikation, die tausendfach gleich ablaufen soll.
Die Reihenfolge in der Praxis: erst guter Prompt, dann RAG, erst danach Fine-Tuning. Wer diese Stufen überspringt, bezahlt für Training, das ein besserer Prompt ersetzt hätte.
Wo Fine-Tuning im betrieblichen Alltag konkret wird — Beispiele aus der Arbeit mit mittelständischen Unternehmen.
Ein Modell auf das eigene Format für Prüfberichte oder Wartungsprotokolle trainieren
Eingehende Reklamationen zuverlässig nach hauseigenen Fehlerkategorien klassifizieren
Ein kleines Open-Weight-Modell für eine einzige Fachaufgabe spezialisieren und lokal betreiben
Sie wollen Fine-Tuning nicht nur verstehen, sondern im eigenen Unternehmen nutzen?
KI-Beratung & Umsetzung →Antworten aus den eigenen Dokumenten statt aus dem Trainingsgedächtnis.
Das Modell zum Mitnehmen: auf eigenen Servern betrieben statt in fremder Cloud gemietet.
Lernen aus Daten statt aus festen Regeln — das Fundament fast jeder KI.
Das Sprachmodell unter ChatGPT & Co. — es rechnet Wahrscheinlichkeiten, keine Wahrheit.
Fine-Tuning verändert das Modell selbst durch Nachtraining. RAG lässt das Modell unverändert und gibt ihm bei jeder Anfrage passende Dokumente mit. Für aktuelles, sich änderndes Wissen ist RAG meist besser, für Stil, Format und wiederkehrende Fachaufgaben Fine-Tuning.
Das hängt von Aufgabe und Modell ab. Für Format- oder Stilanpassungen reichen oft einige Hundert sorgfältig ausgewählte Beispiele. Entscheidend ist die Qualität: Fehler in den Trainingsdaten lernt das Modell genauso mit.
Selten als erster Schritt. Prüfen Sie zuerst, ob ein präziser Prompt oder RAG das Ziel erreicht. Fine-Tuning rechnet sich bei hohem, gleichförmigem Volumen — etwa wenn dieselbe Klassifikation täglich tausendfach läuft.
Von Fine-Tuning zur Anwendung im eigenen Betrieb: Als Keynote Speaker und KI-Berater zeige ich Entscheidern im Mittelstand, wo KI Arbeit abnimmt — und wo nicht.