Letzte Woche kam jemand nach meinem RAG-Post auf mich zu: «Warum nicht einfach Claude Projects nutzen? Da kann ich doch auch Dokumente hochladen. Warum soll ich teuer ein RAG-System bauen (lassen)?»
Gute Frage. Die Antwort hat mit deinem Schreibtisch zu tun (und einem Konzept Namens «Context Window»).
Stell dir vor, du kannst nur mit dem arbeiten, was gerade auf deinem Schreibtisch liegt. Alles andere ist im Schrank – existiert zwar, aber du siehst es nicht. Genau so funktioniert das «Context Window» bei KI-Modellen. Das Context Window von Claude ist ziemlich gross: etwa 200’000 Token. (Ein Token ist ungefähr ein Wort.)
Klingt nach viel? Schauen wir uns ein Beispiel an.
Die «Ausführungsbestimmungen zur Verordnung über das Arbeitsverhältnis des städtischen Personals» der Stadt Zürich. Ein PDF. 200 Seiten. Etwa 100’000 Token.
Die Hälfte deines Schreibtischs. Weg. Mit einem einzigen Dokument.
Jetzt bist du Juristin und willst mit 50 solcher Dokumente arbeiten. Oder 500. Dein Schreibtisch ist hoffnungslos überfüllt. Du siehst den Tisch vor lauter Papier nicht mehr. So wäre das Arbeiten mit Claude-Projects.
RAG hingegen ist wie ein gut organisiertes Archiv mit einem flinken Bibliothekar. Die Dokumente werden einmal gelesen und indexiert. Bei jeder Frage holt der Bibliothekar nur die relevanten Passagen auf deinen Schreibtisch. Der Rest bleibt im Archiv. Kein verstopfter Schreibtisch. Keine Überforderung.
Claude Projects reicht für viele Fälle völlig. Aber wenn du mit grossen Dokumentenmengen arbeitest, brauchst du mehr als einen grösseren Schreibtisch. Du brauchst ein Archiv.
Was bedeutet das für dich? Frag dich: Wie viele Dokumente? Wie oft neue Inhalte? Die Antworten zeigen dir, ob Claude Projects reicht – oder ob du über RAG nachdenken solltest.
