KI-Verordnung: Verlässliche Rahmenbedingungen nötig

 Künstliche Intelligenz AI KI

Der Digitalausschuss des Bundestags hat in einer öffentlichen Sitzung am Mittwochnachmittag über den Stand der Verhandlungen zur gesetzlichen Regulierung von generativer Künstlicher Intelligenz (KI) auf EU-Ebene debattiert.

Die Verhandlungen für einen europäischen Rechtsrahmen für KI sollen in diesem Jahr in die entscheidende Phase treten. Dass unter der schwedischen EU-Ratspräsidentschaft eher ein formales Trilogverfahren starte und die Triloge in der Substanz erst in die spanische Ratspräsidentschaft fallen könnten, berichtete Klaus Meyer-Cabri vom Bundesjustizministerium dem Ausschuss. Sowohl innerhalb der Fraktionen als auch im EU-Parlament verliefen die politischen Gespräche schleppend, derzeit werde eher auf der technischen Ebene diskutiert, führte er weiter aus.

Mit der Frage, wie ein verlässlicher Rechtsrahmen aussehen kann, beschäftigt sich die EU-Kommission bereits seit 2018. Während das Europaparlament und die Mitgliedsstaaten seit April 2021 über die konkrete Ausgestaltung diskutieren, sind mit Anwendungen wie etwa dem Chatbot ChatGPT kürzlich neue Fragen zum Umgang mit generativer KI dazu gekommen.

Vorgesehen sind im Verordnungsvorschlag der Kommission eine Risikoeinstufung für KI-Systeme mit Blick auf Grundrechte, Sicherheit und Privatsphäre. In Anhang III des AI Acts sind bislang acht Bereiche sogenannter Hochrisiko-KI-Systeme vorgesehen, beispielsweise die biometrische Identifizierung und Kategorisierung, Rechtspflege und demokratische Prozesse oder der Betrieb kritischer Infrastrukturen.

Wie generative KI wie Chatbots sich noch in die Regulierung einbinden lassen und ob sie ebenfalls als hochriskante Technik eingestuft werden sollen, sei derzeit Teil von Debatten. Von Seiten der Bundesregierung gebe es keine formale Einordnung bezüglich einer Risikoklasse, betonte die Koordinatorin für die Deutsche Luft- und Raumfahrt im Bundesministerium für Wirtschaft und Klimaschutz, Anna Christmann (B90/Die Grünen).

Offen sei, was mit einem allgemeinen System passiere, das noch nicht im konkreten Fall angewendet werde. Derzeit warte man auf eine Stellungnahme des Parlaments und wisse noch nicht, auf welcher Grundlage man in das Trilog-Verfahren gehe, sagte sie.

Im Hinblick auf Fragen der Praktikabilität, der Innovationsfähigkeit und der Entwicklung solcher Systeme bestünden derzeit noch Fragezeichen. Grundsätzlich befinde man sich aber auf einem konkreten Weg der Regulierung und sei Vorreiter dabei, einen Standard zu setzen. In dem Prozess bestehe die Chance, zu zeigen, wie man Vertrauen für Technologien schafft und Innovationsräume erhalten und stärken kann, sagte Christmann.

Man wolle nicht nur die Risiken in den Griff bekommen, sondern Europa als »Hub für neue KI-Entwicklungen« etablieren, sagte auch Meyer-Cabri. Zwischen diesen beiden Polen versuche man einen Ausgleich zu finden. Ein System zu schaffen, das auch neue Entwicklungen abbilden könne, sei mit großen Fragezeichen verbunden. Der Kommissions-Vorschlag sehe etwa bislang noch Durchführungsrechtsakte vor. Diese seien ein Teil des Problems, da dadurch die Vorhersehbarkeit nicht so gut gegeben sei. Genau diese Vorhersehbarkeit, Transparenz und Klarheit wolle die Bundesregierung aber für die Unternehmen. Wenn fundamentale Aspekte entschieden werden, gehöre dies zudem nicht in Rechtsakte, sondern in die Verordnung selbst, sagte er.

Die Abgeordneten sprachen in ihren Nachfragen vor allem Risiken und Chancen beim Einsatz generativer KI an und regten eine breite Debatte an. So wollten sie Details zum Diskussionsstand zur biometrischen Fernidentifizierung erfahren. Ebenso fragten sie nach Verantwortlichkeiten bei der Nutzung, nach Auswirkungen auf das Urheber- und Datenschutzrecht sowie nach konkreten Überlegungen wie etwa nach einer Kennzeichnungspflicht für solche Inhalte.


Strategien der EU gegen Fachkräftemangel: Fokus auf Qualifizierung und Weiterbildung
EU-Initiativen zur Fachkräfteentwicklung 2024: Qualifizierung und Weiterbildung Die Europäische Kommission hatte das Jahr 2023 zum Europäischen Jahr der Kompetenzen ausgerufen, um den Fachkräftemangel zu bekämpfen und die Wettbewerbsfähigkeit der...
Beschleunigte Innovation: KI-Einsatz verstärkt Personalbedarf
Generative KI: Beschleunigter Einsatz und steigender Personalbedarf Eine aktuelle Deloitte-Umfrage unter knapp 2.000 Führungskräften aus sechs Ländern, darunter 150 aus Deutschland, zeigt den zunehmenden Einsatz von generativer KI in Unternehmen....
Stärkung der europäischen Bildungskooperation: Die Woche der Europäischen Hochschulen
Die Veranstaltung, die bereits zum dritten Mal stattfindet, bietet Einblicke in die Europäischen Hochschulallianzen und fällt mit dem Europatag am 9. Mai zusammen. Sie soll das Engagement deutscher Hochschulen im Rahmen des EU-Programms für...

.