«Wir brauchen RAG für unseren Chatbot. Ich habe keine Ahnung, was das ist. Aber es kostet 20’000 Franken» – Willkommen in der Welt der AI-Transformation, wo technische Begriffe zu Budget-Positionen werden, bevor irgendjemand versteht, was sie eigentlich bedeuten. Also, was ist RAG wirklich?
Stell dir vor, dein neuer Mitarbeitender fragt am ersten Tag: «Wie funktioniert hier die Spesenabrechnung?» Du hast zwei Optionen:
Option A: Du antwortest aus dem Kopf – mit dem, was du noch von vor drei Jahren weisst. (Das ist ChatGPT pur)
Option B: Du holst das aktuelle Handbuch raus, liest nach und gibst dann eine Antwort, die auf aktuellen Infos basiert. (Das ist RAG)
RAG bedeutet: Retrieval Augmented Generation. Klingt kompliziert. Ist es aber nicht.
Es bedeutet nur: Der AI-Assistent holt sich erst die relevanten Dokumente (Retrieval), bevor er eine Antwort generiert (Generation). Statt zu raten, schaut er nach.
Ein normaler Chatbot würde dir sagen: «Basierend auf meinem Training von 2023 würde ich schätzen…» Ein RAG-System sagt: «Laut unserem aktuellen Reglement vom März 2024…»
Der Unterschied? Einer erfindet kreativ. Der andere liest nach.
Bevor du aber Geld für RAG ausgibst, investiere zwei Wochen in:
- Aufräumen deiner Dokumente
- Klären, welche Infos wirklich aktuell sind
- Entscheiden, welche Dokumente überhaupt AI-zugänglich sein sollen
- Aufräumen der Festplatte von Sandra, die seit 2019 in Pension ist.
Dann – und nur dann – macht RAG Sinn.
