Quelle: https://unterrichten.digital/2025/02/26/ai-act-ki-vo-schule-unterricht/
Wichtig: Der AI Act ist eine EU-Verordnung und gilt in allen Ländern der EU – eine Übertragung ins Recht der Länder bzw. in spezifische Regelungen (analog zur DSGVO) steht noch aus.
Verpflichtende AI-Kompetenzen (AI Literacy)
Ein zentraler Bestandteil des AI-Acts ist die Fokussierung von KI-Kompetenz (AI Literacy), die sowohl Anbieter als auch Betreiber von KI-Systemen sicherstellen sollen. Dies umfasst nicht nur technisches Wissen über die Funktionsweise von KI-Systemen, sondern auch die Fähigkeit, Chancen und Risiken kritisch zu bewerten, wie der AI Act in Artikel 3, Abs. 1 Lit 56 definiert:
„Die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.„EU AI Act Art. 3
Der Gesetzgeber (die Umsetzung in Deutschland steht noch aus) fordert, dass alle am Einsatz von KI beteiligten Personen – ob Entwickler, Betreiber oder Nutzer – ausreichend geschult sein und über ein Grundverständnis, die Fähigkeit zur kritischen Bewertung und praktische Anwendungskompetenzen verfügen müssen.
„Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.„
EU AI Act Art. 4
Wichtig sind hier zwei Hinweise für Schulen und Lehrpersonen, deren Umsetzung in deutsches Recht ich momentan vermute, nämlich
Wichtig sind hier zwei Hinweise für Schulen und Lehrpersonen, deren Umsetzung in deutsches Recht ich momentan vermute, nämlich
- dass die Anforderungen zur KI-Kompetenz für alle KI-Systeme gelten, ganz unabhängig von der Risikogruppe. Schulen könnten also in jedem Fall gefordert sein, „nach besten Kräften“ aktiv zu werden, sobald KI in irgendeiner Form im Einsatz ist.
- dass Schülerinnen und Schüler aus Sicht der KI-VO bei schulischer KI-Nutzung als „Betroffene“ ebenso über die dafür notwendige „KI-Kompetenz“ werden verfügen müssen – und diese von der Schule als „Betreiber“ anzubahnen ist.
