KI-Verordnung: Verlässliche Rahmenbedingungen nötig

Der Digitalausschuss des Bundestags hat in einer öffentlichen Sitzung am Mittwochnachmittag über den Stand der Verhandlungen zur gesetzlichen Regulierung von generativer Künstlicher Intelligenz (KI) auf EU-Ebene debattiert.

Die Verhandlungen für einen europäischen Rechtsrahmen für KI sollen in diesem Jahr in die entscheidende Phase treten. Dass unter der schwedischen EU-Ratspräsidentschaft eher ein formales Trilogverfahren starte und die Triloge in der Substanz erst in die spanische Ratspräsidentschaft fallen könnten, berichtete Klaus Meyer-Cabri vom Bundesjustizministerium dem Ausschuss. Sowohl innerhalb der Fraktionen als auch im EU-Parlament verliefen die politischen Gespräche schleppend, derzeit werde eher auf der technischen Ebene diskutiert, führte er weiter aus.

Mit der Frage, wie ein verlässlicher Rechtsrahmen aussehen kann, beschäftigt sich die EU-Kommission bereits seit 2018. Während das Europaparlament und die Mitgliedsstaaten seit April 2021 über die konkrete Ausgestaltung diskutieren, sind mit Anwendungen wie etwa dem Chatbot ChatGPT kürzlich neue Fragen zum Umgang mit generativer KI dazu gekommen.

Vorgesehen sind im Verordnungsvorschlag der Kommission eine Risikoeinstufung für KI-Systeme mit Blick auf Grundrechte, Sicherheit und Privatsphäre. In Anhang III des AI Acts sind bislang acht Bereiche sogenannter Hochrisiko-KI-Systeme vorgesehen, beispielsweise die biometrische Identifizierung und Kategorisierung, Rechtspflege und demokratische Prozesse oder der Betrieb kritischer Infrastrukturen.

Wie generative KI wie Chatbots sich noch in die Regulierung einbinden lassen und ob sie ebenfalls als hochriskante Technik eingestuft werden sollen, sei derzeit Teil von Debatten. Von Seiten der Bundesregierung gebe es keine formale Einordnung bezüglich einer Risikoklasse, betonte die Koordinatorin für die Deutsche Luft- und Raumfahrt im Bundesministerium für Wirtschaft und Klimaschutz, Anna Christmann (B90/Die Grünen).

Offen sei, was mit einem allgemeinen System passiere, das noch nicht im konkreten Fall angewendet werde. Derzeit warte man auf eine Stellungnahme des Parlaments und wisse noch nicht, auf welcher Grundlage man in das Trilog-Verfahren gehe, sagte sie.

Im Hinblick auf Fragen der Praktikabilität, der Innovationsfähigkeit und der Entwicklung solcher Systeme bestünden derzeit noch Fragezeichen. Grundsätzlich befinde man sich aber auf einem konkreten Weg der Regulierung und sei Vorreiter dabei, einen Standard zu setzen. In dem Prozess bestehe die Chance, zu zeigen, wie man Vertrauen für Technologien schafft und Innovationsräume erhalten und stärken kann, sagte Christmann.

Man wolle nicht nur die Risiken in den Griff bekommen, sondern Europa als »Hub für neue KI-Entwicklungen« etablieren, sagte auch Meyer-Cabri. Zwischen diesen beiden Polen versuche man einen Ausgleich zu finden. Ein System zu schaffen, das auch neue Entwicklungen abbilden könne, sei mit großen Fragezeichen verbunden. Der Kommissions-Vorschlag sehe etwa bislang noch Durchführungsrechtsakte vor. Diese seien ein Teil des Problems, da dadurch die Vorhersehbarkeit nicht so gut gegeben sei. Genau diese Vorhersehbarkeit, Transparenz und Klarheit wolle die Bundesregierung aber für die Unternehmen. Wenn fundamentale Aspekte entschieden werden, gehöre dies zudem nicht in Rechtsakte, sondern in die Verordnung selbst, sagte er.

Die Abgeordneten sprachen in ihren Nachfragen vor allem Risiken und Chancen beim Einsatz generativer KI an und regten eine breite Debatte an. So wollten sie Details zum Diskussionsstand zur biometrischen Fernidentifizierung erfahren. Ebenso fragten sie nach Verantwortlichkeiten bei der Nutzung, nach Auswirkungen auf das Urheber- und Datenschutzrecht sowie nach konkreten Überlegungen wie etwa nach einer Kennzeichnungspflicht für solche Inhalte.