KI-Verordnung: Verlässliche Rahmenbedingungen nötig

 Künstliche Intelligenz AI KI

Der Digitalausschuss des Bundestags hat in einer öffentlichen Sitzung am Mittwochnachmittag über den Stand der Verhandlungen zur gesetzlichen Regulierung von generativer Künstlicher Intelligenz (KI) auf EU-Ebene debattiert.

Die Verhandlungen für einen europäischen Rechtsrahmen für KI sollen in diesem Jahr in die entscheidende Phase treten. Dass unter der schwedischen EU-Ratspräsidentschaft eher ein formales Trilogverfahren starte und die Triloge in der Substanz erst in die spanische Ratspräsidentschaft fallen könnten, berichtete Klaus Meyer-Cabri vom Bundesjustizministerium dem Ausschuss. Sowohl innerhalb der Fraktionen als auch im EU-Parlament verliefen die politischen Gespräche schleppend, derzeit werde eher auf der technischen Ebene diskutiert, führte er weiter aus.

Mit der Frage, wie ein verlässlicher Rechtsrahmen aussehen kann, beschäftigt sich die EU-Kommission bereits seit 2018. Während das Europaparlament und die Mitgliedsstaaten seit April 2021 über die konkrete Ausgestaltung diskutieren, sind mit Anwendungen wie etwa dem Chatbot ChatGPT kürzlich neue Fragen zum Umgang mit generativer KI dazu gekommen.

Vorgesehen sind im Verordnungsvorschlag der Kommission eine Risikoeinstufung für KI-Systeme mit Blick auf Grundrechte, Sicherheit und Privatsphäre. In Anhang III des AI Acts sind bislang acht Bereiche sogenannter Hochrisiko-KI-Systeme vorgesehen, beispielsweise die biometrische Identifizierung und Kategorisierung, Rechtspflege und demokratische Prozesse oder der Betrieb kritischer Infrastrukturen.

Wie generative KI wie Chatbots sich noch in die Regulierung einbinden lassen und ob sie ebenfalls als hochriskante Technik eingestuft werden sollen, sei derzeit Teil von Debatten. Von Seiten der Bundesregierung gebe es keine formale Einordnung bezüglich einer Risikoklasse, betonte die Koordinatorin für die Deutsche Luft- und Raumfahrt im Bundesministerium für Wirtschaft und Klimaschutz, Anna Christmann (B90/Die Grünen).

Offen sei, was mit einem allgemeinen System passiere, das noch nicht im konkreten Fall angewendet werde. Derzeit warte man auf eine Stellungnahme des Parlaments und wisse noch nicht, auf welcher Grundlage man in das Trilog-Verfahren gehe, sagte sie.

Im Hinblick auf Fragen der Praktikabilität, der Innovationsfähigkeit und der Entwicklung solcher Systeme bestünden derzeit noch Fragezeichen. Grundsätzlich befinde man sich aber auf einem konkreten Weg der Regulierung und sei Vorreiter dabei, einen Standard zu setzen. In dem Prozess bestehe die Chance, zu zeigen, wie man Vertrauen für Technologien schafft und Innovationsräume erhalten und stärken kann, sagte Christmann.

Man wolle nicht nur die Risiken in den Griff bekommen, sondern Europa als »Hub für neue KI-Entwicklungen« etablieren, sagte auch Meyer-Cabri. Zwischen diesen beiden Polen versuche man einen Ausgleich zu finden. Ein System zu schaffen, das auch neue Entwicklungen abbilden könne, sei mit großen Fragezeichen verbunden. Der Kommissions-Vorschlag sehe etwa bislang noch Durchführungsrechtsakte vor. Diese seien ein Teil des Problems, da dadurch die Vorhersehbarkeit nicht so gut gegeben sei. Genau diese Vorhersehbarkeit, Transparenz und Klarheit wolle die Bundesregierung aber für die Unternehmen. Wenn fundamentale Aspekte entschieden werden, gehöre dies zudem nicht in Rechtsakte, sondern in die Verordnung selbst, sagte er.

Die Abgeordneten sprachen in ihren Nachfragen vor allem Risiken und Chancen beim Einsatz generativer KI an und regten eine breite Debatte an. So wollten sie Details zum Diskussionsstand zur biometrischen Fernidentifizierung erfahren. Ebenso fragten sie nach Verantwortlichkeiten bei der Nutzung, nach Auswirkungen auf das Urheber- und Datenschutzrecht sowie nach konkreten Überlegungen wie etwa nach einer Kennzeichnungspflicht für solche Inhalte.


Unternehmen setzen verstärkt auf Künstliche Intelligenz
Steigende KI-Nutzung in der deutschen Wirtschaft Laut einer aktuellen ifo-Umfrage setzt mittlerweile fast jedes dritte Unternehmen in Deutschland Künstliche Intelligenz (KI) ein. Im Vergleich zum Vorjahr ist dies ein deutlicher Anstieg, denn...
Kann der Einsatz Generativer KI (GenAI) den Fachkräftemangel im öffentlichen Dienst reduzieren?
Studie zeigt Potenzial von GenAI Generative Künstliche Intelligenz (GenAI) bietet ein erhebliches Potenzial, den Fachkräftemangel im öffentlichen Dienst zu verringern. Laut einer Studie von McKinsey könnte der Einsatz von GenAI die Lücke von rund...
Mitbestimmung und Akzeptanz von KI-Technologien im Unternehmen
Wie Management und Betriebsräte die Einführung und Nutzung von KI-Anwendungen gestalten Das Weizenbaum-Institut hat in einer umfassenden Studie die Gestaltung der Einführung und Nutzung von KI-Anwendungen durch Management und Betriebsräte in...

.