Domain-Wissens-Erosion: Das stille Risiko generischer Chatbots und Recherche-KIs

Das wertvollste Kapital einer rechtsberatenden Organisation steht in keiner Bilanz. Es sitzt in den Köpfen der Menschen, die seit Jahren dieselben Themen bearbeiten: die Sachbearbeiterin, die jede Eigenbedarfskündigung schon dutzendfach gesehen hat, der Jurist, der weiß, wie das Sozialgericht vor Ort im Zweifel entscheidet. Dieses Erfahrungswissen entscheidet über die Qualität jeder Beratung, und es entsteht nur auf eine Weise: durch das wiederholte, jahrelange Lösen echter Fälle.

Generische Chatbots versprechen, genau diese Arbeit abzunehmen. Frage rein, Antwort raus. Was dabei selten jemand ausspricht: Mit jedem ausgelagerten Fall verschiebt sich der Ort, an dem das Wissen entsteht, nach außen. Und ein Wissen, das außerhalb des Hauses entsteht, gehört irgendwann auch nicht mehr zum Haus.

Erfahrungswissen ist ein Asset, kein Nebenprodukt

Stellt man sich das Wissen eines einzelnen Mitarbeitenden als Kurve vor, beginnt sie schmal und flach: ein, zwei Themen, oberflächlich beherrscht. Mit den Jahren wächst sie in die Höhe, das Wissen wird tiefer, und in die Breite, es deckt mehr Konstellationen ab. Legt man die Kurven aller Mitarbeitenden übereinander, entsteht das, was eine Organisation im Kern ausmacht: ein kollektiver Erfahrungsschatz, den kein Wettbewerber einfach kopieren kann.

Dieser Schatz ist ein echtes Asset: über Jahre aufgebaut, an die Organisation gebunden und die Grundlage ihrer Differenzierung. Er ist aber auch fragil, denn er liegt meist nur in Köpfen, nicht in Systemen.

Wenn der Chatbot übernimmt, beginnt die Erosion

Erosion ist kein Knall, sondern ein langsames Abtragen. Anfangs fällt nichts auf, weil das externe Modell brauchbare Antworten liefert. Doch mit jedem Fall, den nicht mehr ein Mensch durchdenkt, sondern ein Chatbot beantwortet, passiert zweierlei: Der Mitarbeitende übt sein Urteil seltener, die individuelle Kurve wächst langsamer, und die Lösung selbst wird außerhalb dokumentiert, beim Anbieter, nicht bei Ihnen.

Am Ende dieses Pfades steht eine Organisation, die zwar Fälle bearbeitet, aber kein eigenes Wissen mehr aufbaut. Sie ist abhängig von einer externen Plattform, die sie nicht kontrolliert, und sie hat das verloren, was sie von anderen unterschieden hat. Aus einem Asset wird eine Mietleistung.

„Wer das Lösen seiner Fälle auslagert, lagert das Lernen gleich mit aus. Die Rechnung kommt erst Jahre später.“

Endrik Hasemann, Geschäftsführer CODIAC

Was die Studien zeigen

Dass dieser Effekt real ist, belegt die jüngere Forschung gleich auf zwei Ebenen, der individuellen und der organisationalen.

Auf der individuellen Ebene spricht die Wissenschaft von „cognitive offloading“, dem Auslagern des Denkens. Eine 2025 veröffentlichte Studie von Michael Gerlich (SBS Swiss Business School) mit 666 Teilnehmenden fand einen deutlichen negativen Zusammenhang zwischen häufiger KI-Nutzung und kritischem Denkvermögen, vermittelt genau über dieses Auslagern (Gerlich 2025). Eine Untersuchung von Microsoft Research und der Carnegie Mellon University mit 319 Wissensarbeitenden zeigt dieselbe Richtung: Je größer das Vertrauen in die KI, desto seltener prüften die Befragten deren Ergebnisse kritisch (Lee et al. 2025).

Dahinter steht die „Ironie der Automatisierung“: Wer Routine an Maschinen abgibt, verliert die Gelegenheit, sein Urteil zu üben, und steht im Ausnahmefall geschwächt da (Bainbridge 1983). Was für den einzelnen Kopf gilt, gilt verschärft für die Organisation: Findet das Lösen dauerhaft außerhalb statt, verkümmert die kollektive Kurve aus der Grafik oben, statt zu wachsen.

Das Problem der juristischen Recherche-KIs

Man könnte einwenden: Es gibt doch längst spezialisierte Recherche-KIs für die Rechtsbranche, von LexisNexis und Westlaw international bis zu den Angeboten deutscher Fachverlage wie C.H. Beck. Diese Systeme binden ein Sprachmodell per Retrieval-Augmented-Generation (RAG) an geprüfte Quellen und sollen damit zuverlässig sein.

Die bislang gründlichste empirische Prüfung zeichnet ein ernüchterndes Bild. Ein Team des Stanford RegLab testete die führenden Werkzeuge an über 200 vorab registrierten Rechtsfragen, ausgewertet von Fachjuristen. Das Ergebnis: Lexis+ AI halluzinierte in rund 17 Prozent der Fälle, Westlaws AI-Assisted Research in etwa 33 Prozent, das allgemeine GPT-4 in rund 43 Prozent (Magesh et al. 2025). Die Marketing-Aussage einzelner Anbieter, man liefere „100 Prozent halluzinationsfreie“ Ergebnisse, nennen die Autoren schlicht überzogen.

Zwei Lehren folgen daraus. Erstens: RAG senkt die Fehlerquote, beseitigt sie aber nicht, das gilt für jedes Werkzeug dieser Bauart, gleich welcher Marke. Zweitens, und für dieses Thema entscheidend: Selbst die beste Recherche-KI baut kein Wissen in Ihrer Organisation auf. Sie beantwortet Ihre Frage und behält die Erkenntnis bei sich. Das Erosionsproblem löst sie nicht, sie verschärft es.

Die Folgen für Ihre Organisation

• Abhängigkeit von einer externen Plattform, deren Modell, Preise und Verfügbarkeit sich jederzeit ändern können.
• Verlust der Differenzierung: Wer dasselbe Fremdmodell nutzt wie alle anderen, berät am Ende auch wie alle anderen.
• Wissen, das nicht mehr nachvollziehbar im Haus dokumentiert ist und mit jeder Kündigung endgültig verschwindet.
• Datenschutz- und Haftungsfragen, sobald Falldaten das Haus verlassen.

Das Gegenmittel: Wissen einsammeln statt abgeben

Die Richtung lässt sich umkehren. Ein an die eigene Organisation gebundenes System gibt Wissen nicht ab, es sammelt es ein. Jeder freigegebene Fall fließt in die Experience Base der Organisation zurück und steht beim nächsten Mal zur Verfügung. Die kollektive Kurve wächst dann nicht trotz, sondern wegen der KI. Wie dieser Kreislauf im Detail funktioniert, lesen Sie im Beitrag Knowledge Base und Experience Base.

Fazit

Die bequeme Antwort von außen hat einen Preis, der erst spät sichtbar wird: Sie kostet das Wissen, das eine Organisation über Jahre aufgebaut hat. Wer dieses Asset behalten und mehren will, braucht keine fremde Plattform, die für ihn denkt, sondern ein System, das auf den eigenen Daten arbeitet und das Erfahrungswissen im Haus aufbaut. Das ist kein Komfortmerkmal. Es ist eine Frage der Unabhängigkeit, und der Differenzierung.

Quellen

Gerlich, M. (2025). AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking. Societies, 15(1), 6.

Lee, H.-P. et al. (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. Proceedings of CHI ’25, ACM (Microsoft Research und Carnegie Mellon University).

Magesh, V., Surani, F., Dahl, M., Suzgun, M., Manning, C. D. und Ho, D. E. (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22, 216 (Stanford RegLab/HAI).

Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775-779.

Häufige Fragen