KI in der Bildung: Der AI-Act als Regulierungsrahmen

Seit August 2024 ist in der Europäischen Union das weltweit erste umfassende Gesetz zur Künstlichen Intelligenz (AI-Act) in Kraft getreten.

Ziel der Verordnung ist es, Vertrauen in die KI-Technologie zu schaffen und die Grundrechte der Menschen zu schützen. Die meisten Bestimmungen gelten ab dem 2. August 2026, einige treten jedoch schon früher in Kraft.

Welche Folgen und spezielle Verpflichtungen sich aus dem AI-Act für Bildungsanbieter und Lehrende ergeben, hat Susanne Witt vom DIE für das Portal wb-web zusammengestellt.

Wir haben die wesentlichen Punkte dieses Artikels aufgegriffen und geben sie hier in einer verkürzten Fassung wieder. Bei darüber hinausgehendem Interesse empfehlen wir die Lektüre des Volltextes.

Der AI-Act und seine Auswirkungen auf Bildungsanbieter und Lehrende

Der AI-Act der Europäischen Union zielt darauf ab, den Einsatz von Künstlicher Intelligenz (KI) in Europa zu regulieren.

Dieses Gesetz teilt KI-Anwendungen in vier Risikokategorien ein: unvertretbares Risiko (verbotene Systeme), hohes Risiko (strenge Regulierung), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (weitgehend unreguliert).

Verpflichtungen für Bildungsanbieter und Lehrende

1. Ausbildung und KI-Kompetenzen
   Bildungsanbieter müssen sicherstellen, dass ihre Mitarbeiterinnen und Mitarbeiter über die notwendigen KI-Kompetenzen verfügen, um KI-Systeme sachkundig einsetzen und Chancen und Risiken erkennen zu können.
2. Transparenzpflichten
   Beim Einsatz von KI müssen Bildungsanbieter transparent machen, ob Inhalte von Menschen oder mit Hilfe von KI erstellt wurden. Dies erfordert eine klare Kennzeichnung der Inhalte.
3. Technische Dokumentation
   Anbieter von KI-Modellen müssen eine technische Dokumentation erstellen und auf Anfrage zur Verfügung stellen. Dies gilt jedoch nicht für Modelle, die unter freien und quelloffenen Lizenzen stehen, sofern keine systemischen Risiken bestehen.
4. Urheberrechtlicher Schutz
   Es ist wichtig, bestehende Rechte wie Urheberrechte zu sichern und sicherzustellen, dass der Einsatz von KI nicht zu rechtlichen Konflikten führt.

Praktische Umsetzung in der Bildung

• Einsatz von KI in der Bildung
  KI kann in der Bildung eingesetzt werden, um Verwaltungsprozesse zu unterstützen, die Entscheidungsfindung zu verbessern und Dienstleistungen zu optimieren. Beispiele sind Chatbots oder automatisierte Dokumentenanalysen.
• Qualifizierungsbedarf
  Bildungsanbieter sollten den Schulungsbedarf ihres Personals ermitteln, indem sie die Anforderungen und den Einsatz von KI analysieren. Dazu gehört die Definition der Ziele, der eingesetzten KI-Tools und der Risikokategorien.

Ermittlung des Qualifizierungsbedarfs

Der Qualifizierungsbedarf des Personals sollte anhand der spezifischen KI-Anwendungsbereiche und der damit verbundenen Risiken analysiert werden.
Wichtige Fragen für die Bedarfsermittlung sind:

• Zweckbestimmung
  Welche Aufgaben soll die KI übernehmen?
• Werkzeugauswahl
  Welche KI-Software soll eingesetzt werden?
• Risikokategorie
  Welcher Risikokategorie nach dem KI-Gesetz unterliegt die Anwendung?
• Anwendergruppe
  Wer soll mit der KI arbeiten?
• Kompetenzniveau
  Welche Vorkenntnisse haben die Mitarbeitenden oder Lehrenden?

KI in Bildungseinrichtungen

Für Schulen, Hochschulen und Weiterbildungseinrichtungen bietet KI zahlreiche Anwendungsmöglichkeiten:

• Automatisierung administrativer Aufgaben
  KI kann Prozesse wie Terminplanung, Dokumentenverwaltung und Anfragenbearbeitung effizienter gestalten.
• Generative KI für Lehre und Forschung
  Texte zusammenfassen, wissenschaftliche Analysen unterstützen und neue Inhalte generieren.
• Unterstützung der Lehre
  Lehrende können KI für die Unterrichtsplanung nutzen oder KI-Anwendungen als Lehrinhalte integrieren.

Unternehmenskultur und KI

Unternehmen können ihre Unternehmenskultur durch Richtlinien prägen, die den Umgang mit KI-Systemen definieren. Dazu gehören ethische Fragen, Datenschutz und Urheberrecht. Eine zentrale Anlaufstelle kann helfen, Schulungen zu koordinieren und die Einhaltung der Standards zu überwachen,