Einfluss der neuen KI-VO auf die Justiz

Die Europäische Kommission hat am 21. April 2021 einen Verordnungsentwurf zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-VO-E) veröffentlicht. Über diesen soll nach derzeit bekannten Informationen spätestens in der ersten Hälfte des kommenden Jahres entschieden werden. Bei dem Vorhaben handelt es sich weltweit die erste Regulierung der Nutzung von KI. Der Verordnungsentwurf wählt hierbei einen risikobasierten Ansatz. Abhängig von den unterschiedlichen Einsatzbereichen und dem damit verbunden Risiken für die Grundrechte der Betroffenen, stellt der Verordnungsentwurf bestimmte Klassen von KI auf.

Über den Stand der Gesetzgebung und den Entwurf als solchen sowie die einzelnen (geplanten) Risikoklassen von KI wird der Vortrag informieren. Auch wird ein Blick darauf geworfen, ob und in welchem Umfang die KI-VO sich perspektivisch auf die Justiz auswirken würde. Stand jetzt wäre das Treffen einer gerichtlichen Entscheidung durch ein KI-System nicht grundsätzlich durch den Entwurf verboten. Auch der Einsatz von Lügendetektoren durch Strafverfolgungsbehörden wäre nach jetzigem Stand „nur“ ein Hochrisiko-KI-System und nicht präventiv verboten. Weitere Fragen stellen sich auch bei gerichtlichen Entscheidungen, die durch KI-Systeme unterstützt getroffen werden hinsichtlich Transparenz und Erklärbarkeit (sog. Black-Box-Probleme).