Rechtslage zur Verwendung von KI in der Strafverfolgung

Die zunehmende Integration Künstlicher Intelligenz (KI) in die Strafverfolgung wirft grundlegende ethische und rechtliche Fragen auf. Während KI-gestützte Analysen bereits heute große Datenmengen auswerten und Ermittlungen unterstützen, fehlt es in vielen europäischen Ländern an klaren gesetzlichen Vorgaben. Ohne verbindliche Rahmenbedingungen besteht die Gefahr von Grundrechtsverletzungen, fehlerhaften Entscheidungen und einer schleichenden Abgabe menschlicher Verantwortung an automatisierte Systeme.

Fehlende gesetzliche Rahmenbedingungen in der EU

Ein Blick auf den aktuellen Stand der Gesetzgebung zeigt, dass 18 von 27 EU-Staaten (2023) keinerlei spezifische Regelungen zur Nutzung von KI in der Strafverfolgung besitzen. Diese Lücke bedeutet, dass in rund zwei Dritteln der Mitgliedsländer die Anwendung von KI-Tools praktisch unreguliert bleibt.

Potenzielle Gefährdung von Grundrechten, weil Entscheidungen ohne rechtliche Kontrolle getroffen werden können.
Erhöhte Rechtsunsicherheit für Beschuldigte und Strafverfolgungsbehörden.
Risiko, dass fehlerhafte oder diskriminierende Algorithmen ohne Aufsicht eingesetzt werden.

Die Statistik unterstreicht die Dringlichkeit gesetzgeberischer Maßnahmen, um die Nutzung von KI im Strafverfahren zu regulieren und den Schutz von Individuen zu gewährleisten.

Machine Learning Bias und seine Folgen

Studien belegen, dass Bias in den Trainingsdaten von KI-Systemen zu diskriminierenden und unrechtmäßigen Urteilen führen kann. Im Jahr 2022 zeigte eine Untersuchung, dass in bis zu 30 % der Fälle Entscheidungen fehlerhaft waren, weil die zugrunde liegenden Daten Vorurteile enthielten.

Diskriminierung von bestimmten Bevölkerungsgruppen.
Unrechtmäßige Verurteilungen und damit ein Verstoß gegen den Grundsatz der Gleichheit vor dem Gesetz.
Verlust des Vertrauens in das Justizsystem, wenn algorithmische Vorurteile sichtbar werden.

Die hohe Fehlerquote verdeutlicht, dass ein kritischer Umgang mit KI-Entscheidungshilfen unabdingbar ist.

Fehlerquote und Automation Bias in KI-gestützten Entscheidungen

Im Jahr 2023 lag die gemeldete Fehlerquote bei KI-gestützten Entscheidungen bei 20 %. Parallel dazu entsteht ein weiterer Risikofaktor: der Automation Bias. Dieser psychologische Effekt führt dazu, dass Juristinnen und Juristen trotz offensichtlicher Fehlentscheidungen von KI-Systemen blind vertrauen.

Blindes Vertrauen kann zu schwerwiegenden Konsequenzen für die Rechte von Beschuldigten führen.
Algorithmen spiegeln die Wertvorstellungen ihrer Entwickler wider, wodurch subjektive Bias in objektive Entscheidungen einfließen.
Fehlende menschliche Kontrolle erhöht das Risiko, dass systemische Fehler unentdeckt bleiben.

Notwendigkeit eines Rechts auf menschliche Entscheidung

KI kann keine autonomen, wertorientierten Entscheidungen treffen. Im Strafverfahren ist jedoch die Abwägung von Verhältnismäßigkeit, Schuld und Strafe zentral – Aufgaben, die intrinsisch menschliche Urteilskraft erfordern. Deshalb wird gefordert, ein grundrechtsgleiches „Recht auf menschliche Entscheidung“ in allen Phasen des Strafverfahrens zu verankern. Dieses Recht stützt sich auf Art. 1 Abs. 1 GG (Menschenwürde) und verlangt, dass Staatsanwaltschaften und Gerichte Entscheidungen über wesentliche Grundrechtseingriffe persönlich und verantwortungsbewusst treffen.

Wertentscheidungen wie die Verhältnismäßigkeitsprüfung können nicht von Algorithmen übernommen werden.
Die Menschenwürde verlangt, dass der Beschuldigte nicht bloß als Mittel zur Erreichung von Sicherheitszielen behandelt wird.
Nur menschliche Akteure können Empathie, Intentionalität und Verantwortung in die Bewertung einfließen lassen.

Forderungen für gesetzgeberische Maßnahmen

Um den beschriebenen Risiken zu begegnen, sollten folgende Regelungen in den strafprozessualen Rechtsrahmen aufgenommen werden:

Ergänzende Normen, die den Einsatz von KI klar von menschlichen Entscheidungen abgrenzen.
Offenlegungspflicht: Beschuldigte müssen über den Einsatz von KI-Systemen informiert werden und die Funktionsweise nachvollziehen können.
Verpflichtende Bias-Prüfungen und regelmäßige Audits von Trainingsdaten.
Festlegung einer maximal zulässigen Fehlerquote für KI-gestützte Entscheidungen (z. B. unter 10 %).
Schaffung eines Rechts auf menschliche Entscheidung, das in allen Verfahrensstufen gilt.

Erst durch ein solches regulatorisches Gerüst kann die Nutzung von KI im Strafrecht fair, transparent und mit dem Schutz der Grundrechte vereinbar gestaltet werden.

Fazit

Die Analyse zeigt, dass die aktuelle Rechtslage in der EU kaum klare Vorgaben für den Einsatz von KI in der Strafverfolgung bietet. Gleichzeitig belegen Daten, dass Bias und Fehlerraten bereits jetzt zu diskriminierenden und unrechtmäßigen Entscheidungen führen können. Der Automation Bias verstärkt das Risiko, dass fehlerhafte Ergebnisse unkritisch übernommen werden. Vor diesem Hintergrund ist ein grundrechtsgleiches Recht auf menschliche Entscheidung unverzichtbar. Gesetzgeberinnen und Gesetzgeber sind gefordert, verbindliche Rahmenbedingungen zu schaffen, die Transparenz, Verantwortlichkeit und den Schutz der Menschenwürde sicherstellen.