„Interne Ermittlungen im Hochrisiko-Bereich der KI-Verordnung“ – Beitrag in JuristenZeitung erschienen

Als Dr. Philip Musiol und ich uns im Jahr 2024 zum ersten Mal in der CCZ (Heft 10/2024, S. 257 – 275) grundlegend mit dem Einsatz von Künstlicher Intelligenz im Rahmen von internen Compliance-Ermittlungen beschäftigten, ging es uns vor allem um verbotene Praktiken, datenschutzrechtliche Grenzen und Pflichten, arbeitsrechtliche Maßnahmen, Haftungsrisiken und die Anwendbarkeit der Business Judgement Rule. Aufgrund des Personalbezugs von internen Ermittlungen erschien es uns unmittelbar einleuchtend, in diesem Rahmen eingesetzte KI-Systeme dem Hochrisikobereich gemäß Art. 6 Abs. 2 i. V. m. Anhang III Nr. 4 lit. b KI-VO zuzuordnen. Deshalb haben wir diesen Punkt seinerzeit nicht weiter vertieft (S. 263). Diese Einordnung hat jeweils von prominenter Seite Zustimmung aber auch Kritik erfahren. Deshalb danke ich der renommierten JuristenZeitung (Mohr Siebeck Verlag) für die Gelegenheit, mich in der aktuellen Ausgabe noch einmal ausführlich mit diesem Thema beschäftigen zu dürfen. Und ich bleibe dabei: Der Einsatz von KI bei internen Compliance-Ermittlungen ist derart eingriffs- und personalintensiv, dass er in aller Regel dem Hochrisikobereich der KI-VO unterliegt.

Gemäß Art. 6 Abs. 5 KI-VO hatte sich die EU-Kommission dazu verpflichtet, bis spätestens zum 2. Februar 2026 eine umfassende Liste praktischer Beispiele für Anwendungsfälle von KI-Systemen von hohem Risiko vorzulegen. Diese Liste, die bisher nicht vorliegt, dürfte ebenfalls Anhaltspunkte dafür geben, ob die hier vorgenommene Einordnung zutrifft. Es bleibt also spannend und ich freue mich auf die Fortsetzung der Diskussion.

Haben Sie Fragen zur rechtskonformen Durchführung interner Ermittlungen und zu KI-Compliance in Ihrem Unternehmen?

Sprechen Sie mich gern an.

Ihr

Dr. Johannes Dilling