Der EU AI Act und KI in der Fallbearbeitung: Was Verbände jetzt wissen müssen
4. Juni 2026 · 11 Min. Lesezeit
- ▪Der EU AI Act ist seit August 2024 in Kraft und wird stufenweise anwendbar. Die Vollanwendung der meisten Pflichten beginnt am 2. August 2026.
- ▪Vier Risikoklassen bestimmen die Pflichten: minimal, begrenzt, hoch und inakzeptabel. Für typische Beratungstools greifen vor allem Transparenzpflichten.
- ▪Seit Februar 2025 gilt zusätzlich die KI-Kompetenzpflicht nach Artikel 4 für jede Organisation, die KI einsetzt.
- ▪DIMA ist auf menschliche Aufsicht, Nachvollziehbarkeit und Verarbeitung in Europa ausgelegt und macht diese Anforderungen zur Standardeinstellung.
Für rechtsberatende Organisationen ist Künstliche Intelligenz längst keine Zukunftsfrage mehr. Mit dem EU AI Act bekommt ihr Einsatz nun einen verbindlichen Rahmen. Wer DIMA oder ähnliche Systeme nutzt, sollte die Grundzüge kennen, denn die Verordnung richtet sich nicht nur an Hersteller, sondern auch an die Organisationen, die KI betreiben.
Die gute Nachricht vorweg: Wer auf ein domänenspezifisches System mit menschlicher Aufsicht setzt, erfüllt viele Anforderungen bereits durch die Bauweise.
Was der EU AI Act regelt
Der EU AI Act ist die weltweit erste umfassende Regulierung für Künstliche Intelligenz. Er ist seit dem 1. August 2024 in Kraft und wird in mehreren Stufen anwendbar. Sein Ansatz ist risikobasiert: Je höher das Risiko einer Anwendung für Grundrechte, Sicherheit oder Gesundheit, desto strenger sind die Pflichten.
Verbände, Vereine und Beratungsstellen, die KI in der Fallbearbeitung einsetzen, gelten in der Regel als Betreiber. Damit treffen sie reduzierte, aber konkrete Pflichten, vor allem in den Bereichen Transparenz, Aufsicht und Dokumentation.
Vier Risikoklassen, vier Pflichtenniveaus
Die Verordnung teilt KI-Systeme in vier Klassen ein. Die Einordnung entscheidet darüber, welcher Aufwand auf eine Organisation zukommt.
- Inakzeptables Risiko: verbotene Praktiken, etwa Social Scoring. Solche Systeme sind seit Februar 2025 untersagt.
- Hohes Risiko: Anwendungen in sensiblen Feldern wie Personalauswahl, Kreditvergabe oder kritischer Infrastruktur. Hier gilt der volle Pflichtenkatalog.
- Begrenztes Risiko: Chatbots und generative Systeme. Hier greifen Transparenzpflichten nach Artikel 50.
- Minimales Risiko: einfache Hilfsmittel wie Spamfilter. Keine zusätzlichen Pflichten.
Für die Praxis wichtig: Ein Beratungs-Chatbot fällt meist in die Klasse mit begrenztem Risiko. Dann müssen Nutzer erkennen können, dass sie mit einer KI sprechen. Genau das macht DIMA transparent.
Die Fristen, die jetzt zählen
Einzelne Pflichten greifen bereits. Die KI-Kompetenzpflicht nach Artikel 4 und das Verbot besonders gefährlicher Praktiken nach Artikel 5 gelten seit Februar 2025. Pflichten für allgemeine KI-Modelle folgten im August 2025. Die Vollanwendung der meisten übrigen Pflichten beginnt am 2. August 2026.
Für bestimmte Hochrisiko-Systeme nach Anhang III wird auf europäischer Ebene über eine spätere Geltung diskutiert, im Gespräch ist der Dezember 2027. Für die meisten Beratungsanwendungen ändert das wenig, weil dort die Transparenz- und Aufsichtspflichten im Vordergrund stehen.
Was das für die Fallbearbeitung bedeutet
Drei Anforderungen sind für rechtsberatende Organisationen besonders relevant: Transparenz gegenüber den Ratsuchenden, eine wirksame menschliche Aufsicht über die Ergebnisse und eine nachvollziehbare Dokumentation. Ein System, das diese Punkte von Haus aus mitbringt, senkt den Umsetzungsaufwand spürbar.
| Anforderung | Offener Chatbot | DIMA |
|---|---|---|
| Transparenz | Oft unklar | Klar als KI erkennbar |
| Menschliche Aufsicht | Selten vorgesehen | Freigabe durch Berater |
| Datenort | Häufig außerhalb der EU | Verarbeitung in Europa |
| Nachvollziehbarkeit | Kaum belegt | Jede Antwort mit Quelle |
Was Betreiber konkret tun müssen
Auch wer KI nur einsetzt und nicht selbst entwickelt, hat Pflichten. Für die meisten Beratungsanwendungen lassen sie sich auf eine überschaubare Liste bringen:
- KI-Kompetenz aufbauen (Artikel 4): Mitarbeitende, die mit dem System arbeiten, brauchen ein angemessenes Grundverständnis von Funktionsweise, Grenzen und Risiken. Diese Pflicht gilt bereits seit Februar 2025.
- Transparenz herstellen (Artikel 50): Ratsuchende müssen erkennen können, dass sie mit einer KI interagieren. KI-generierte Inhalte sind als solche kenntlich zu machen.
- Menschliche Aufsicht sichern: Ergebnisse dürfen nicht ungeprüft wirksam werden. Eine fachkundige Person muss eingreifen und freigeben können.
- Nachvollziehbarkeit dokumentieren: Wer auf welcher Grundlage entschieden hat, muss später belegbar sein, auch gegenüber Aufsicht und Mandant.
- Datenschutz mitdenken: Der AI Act tritt neben die DSGVO, er ersetzt sie nicht. Bei personenbezogenen Falldaten gelten beide Regelwerke parallel.
Ein System, das Transparenz, Freigabe durch den Berater und eine lückenlose Protokollierung bereits als Standard mitbringt, nimmt einer Organisation den Großteil dieser Arbeit ab.
Wann wird Beratungs-KI hochriskant?
Die meisten Werkzeuge zur Anliegenaufnahme und Fallvorbereitung fallen in die Klasse mit begrenztem Risiko. Sensibler wird es, wenn KI Entscheidungen mit unmittelbarer Rechtswirkung vorbereitet, etwa im Umfeld der Justiz oder bei Leistungen, die über existenzielle Ansprüche bestimmen. Anhang III des AI Act benennt solche Felder ausdrücklich. Ob eine konkrete Anwendung dort hineinfällt, hängt vom Einsatzzweck ab und ist eine Bewertung, die jede Organisation für sich treffen muss. Die Grundausrichtung von DIMA, also der Mensch entscheidet und die KI bereitet vor, ist genau der Maßstab, an dem sich auch der höhere Pflichtenkatalog orientiert.
Fazit
Der EU AI Act ist kein Grund, beim Thema KI zu zögern, sondern ein Grund, es richtig zu machen. Wer auf menschliche Aufsicht, Transparenz und europäische Verarbeitung setzt, geht den Weg, den die Verordnung ohnehin vorgibt. Mehr dazu lesen Sie auf der Produktseite zu DIMA. Warum ein an die eigenen Quellen gebundenes System die geforderte Nachvollziehbarkeit überhaupt liefern kann, zeigt der Beitrag Warum die Präzise KI von CODIAC kaum halluziniert.
Quellen
Verordnung (EU) 2024/1689 (KI-Verordnung / EU AI Act), insbesondere Artikel 4, 5 und 50 sowie Anhang III; gestufte Anwendung nach Inkrafttreten am 1. August 2024.
Dieser Beitrag ist eine allgemeine Einordnung und ersetzt keine Rechtsberatung im Einzelfall.
Häufige Fragen
Ab wann gilt der EU AI Act vollständig?
In welche Risikoklasse fällt ein Beratungs-Chatbot?
Macht DIMA unsere Organisation AI-Act-konform?
Sarah Tischer leitet bei CODIAC den Bereich Data Model & Process Automation und verbindet linguistische Tiefe mit der täglichen Praxis der Fallbearbeitung.
Zum Team-Profil →