Retrieval-Augmented Generation
Antworten aus den eigenen Dokumenten statt aus dem Trainingsgedächtnis.
Ein KI-Chatbot ist ein Dialogsystem, das Anfragen in natürlicher Sprache versteht und auf Basis eines Sprachmodells frei formulierte Antworten gibt. Anders als regelbasierte Chatbots folgt er keinem festen Entscheidungsbaum. Im Unternehmen wird er meist mit eigenem Wissen verbunden und im Kundenservice, Vertrieb oder als interner Assistent eingesetzt.
Klassische Chatbots arbeiteten mit vordefinierten Pfaden: Schlüsselwort erkannt, Baustein ausgespielt. Wer vom Pfad abwich, landete bei „Das habe ich leider nicht verstanden“. KI-Chatbots verstehen dagegen auch unerwartete Formulierungen und antworten flexibel. Ohne Anbindung an geprüfte Quellen antworten sie allerdings genauso flexibel falsch.
Wie teuer das werden kann, zeigt Air Canada: Im Februar 2024 verurteilte ein Tribunal in British Columbia die Fluggesellschaft, weil ihr Website-Chatbot einem Kunden eine Erstattungsregel versprochen hatte, die es nicht gab. Das Argument, der Chatbot sei für seine Aussagen selbst verantwortlich, wies das Tribunal zurück. Das Unternehmen haftet für das, was sein Bot sagt.
Dazu kommt der AI Act: Seit dem 2. August 2026 gilt die Transparenzpflicht, Menschen darüber zu informieren, dass sie mit einer KI sprechen, sofern das nicht offensichtlich ist. Für den Mittelstand heißt das: Ein Kunden-Chatbot gehört an die eigene Wissensbasis angebunden, gekennzeichnet und mit einem klaren Übergang zum Menschen ausgestattet.
Wo KI-Chatbot im betrieblichen Alltag konkret wird — Beispiele aus der Arbeit mit mittelständischen Unternehmen.
Ein Service-Chatbot, der Fragen zu Lieferzeiten, Ersatzteilen und Bedienungsanleitungen beantwortet
Ein interner HR-Assistent für Fragen zu Urlaub, Reisekosten und Betriebsvereinbarungen
Ein Vertriebs-Chatbot auf der Website, der Anfragen vorqualifiziert und an den Innendienst übergibt
Sie wollen KI-Chatbot nicht nur verstehen, sondern im eigenen Unternehmen nutzen?
KI-Audit für Ihr Unternehmen →Antworten aus den eigenen Dokumenten statt aus dem Trainingsgedächtnis.
Klingt plausibel, ist falsch. Warum Sprachmodelle Fakten erfinden.
Das EU-Gesetz, das KI-Systeme nach Risiko einstuft — und was davon den Mittelstand trifft.
Einmal einrichten, hundertmal nutzen: ChatGPT mit fester Rolle und eigenem Material.
Ein klassischer Chatbot folgt festen Regeln und vordefinierten Antworten. Ein KI-Chatbot nutzt ein Sprachmodell, versteht freie Formulierungen und erzeugt Antworten selbst. Das macht ihn flexibler, aber auch fehleranfälliger, wenn er nicht an geprüfte Quellen gebunden ist.
Ja. Nach Artikel 50 des AI Act müssen Menschen seit dem 2. August 2026 darüber informiert werden, dass sie mit einem KI-System interagieren, sofern das nicht aus den Umständen offensichtlich ist.
Davon ist auszugehen. Im Fall Moffatt gegen Air Canada entschied ein kanadisches Tribunal 2024, dass das Unternehmen für die Auskünfte seines Chatbots einstehen muss. Prüfmechanismen, klare Grenzen und die Übergabe an Mitarbeitende sind deshalb Pflicht.
Von KI-Chatbot zur Anwendung im eigenen Betrieb: Als Keynote Speaker und KI-Berater zeige ich Entscheidern im Mittelstand, wo KI Arbeit abnimmt — und wo nicht.