- Link zur Seite des AWA
Künstliche Intelligenz (KI) bietet in der Bildung Potenzial für individualisiertes Lernen und unterstützt Lehrkräfte bei repetitiven Aufgaben wie Korrekturen. Es gibt jedoch regulatorische und ethische Herausforderungen. Dieser Leitfaden bietet einen Überblick über rechtliche Aspekte bei der Implementierung von KI-Anwendungen.
Einleitung
Eine Vielzahl KI-unterstützter Tools ist bereits in Schulen im Einsatz. Oftmals sind den Lösungsanbietern, Lehrpersonen oder Schulverantwortlichen die rechtlichen Rahmenbedingungen in Bereichen wie Datenschutz und Urheberrecht unklar. Dieser Leitfaden wurde basierend auf einem konkreten Anwendungsfall erarbeitet, bei dem Schülerinnen und Schüler mit einem Smartphone-Scan handschriftlich ausgefüllte Aufgaben automatisiert korrigierten. Die nachfolgenden Ausführungen basieren auf den Rechtsgrundlagen einer öffentlichen Schule im Kanton Zürich. Die Rechtslage in anderen Kantonen ist vergleichbar, die Bestimmungen werden allerdings unterschiedlich angewendet. Der Leitfaden richtet sich vor allem an Anbieter, kann aber auch Schulverantwortlichen aufschlussreiche Erkenntnisse bieten.
6. Durchführung einer Datenschutz-Folgenabschätzung
Im Kanton Zürich müssen öffentliche Organe und damit auch die Schulen vor einer beabsichtigten neuen Datenbearbeitung eine Datenschutz-Folgenabschätzung (DSFA) vornehmen, welche die Risiken für die Einhaltung der Grundrechte der betroffenen Personen beurteilt. Die Umsetzung von Digitalisierungsprojekten und der Einsatz von neuen Technologien sind neue Datenbearbeitungen und bedürfen einer vorgängigen DSFA. Ergeben sich aus der DSFA besondere Risiken für die Einhaltung der Grundrechte der betroffenen Personen, ist die beabsichtigte Bearbeitung von Personendaten vorab den kantonalen Datenschutzbeauftragten zur Prüfung zu unterbreiten (Vorabkontrolle). Projekte mit Einsatz von KI arbeiten mit neuen Technologien, die besondere Risiken für die Grundrechte der betroffenen Personen beinhalten und in jedem Fall den Datenschutzbeauftragten zur Vorabkontrolle eingereicht werden müssen. Im Rahmen der Vorabkontrolle prüfen die Datenschutzbeauftragten, ob das entsprechende Vorhaben datenschutzkonform umgesetzt werden kann oder ob Anpassungen vorgenommen werden müssen. Für die Vorabkontrolle sind den Datenschutzbeauftragten verschiedene Dokumente einzureichen. Dazu gehören ein ISDS-Konzept, die DSFA und die Rechtsgrundlagenanalyse. Das Einreichen der DSFA obliegt der Schule. Damit die DSFA korrekt vorgenommen werden kann, müssen die Anbieter der Schule jedoch gewisse Informationen über das angebotene KI-Tool zur Verfügung stellen.
Punkte von besonderem Interesse
- Vorsicht bei der Bearbeitung von Personendaten von Kindern
- Vorsicht bei der Bearbeitung von besonders schützenswerten Personendaten oder Profilings
- Vorsicht bei der Verwendung von (Personen-)Daten für eigene Zwecke
- Vorsicht bei der Verwendung von Lehrmitteln
- Vorsicht bei der Einbindung von Large Language Models
- Wenig relevant: Einwilligung
Empfehlungen des Sandbox-Teams
Die rasante Entwicklung von KI im Bildungsbereich bringt erhebliche Potenziale, jedoch auch grosse Herausforderungen, besonders im rechtlichen und ethischen Bereich. Es besteht eine dringende Notwendigkeit für klare Richtlinien und einen intensiven interdisziplinären Dialog, um sicherzustellen, dass KI verantwortungsbewusst und effektiv ins Bildungssystem integriert wird. Basierend auf dieser Grundlage gibt das Sandbox-Team die folgenden Empfehlungen, um die Zukunft von KI in der Bildung gemeinsam zu gestalten:
- Einheitliche Strategie für Rechtssicherheit:
Die rechtlichen Rahmenbedingungen variieren derzeit von Kanton zu Kanton. Eine einheitliche, landesweite Strategie und Regelung würde zur Rechtssicherheit und Konsistenz im Umgang mit KI-Anwendungen beitragen. Dies würde eine klare und verständliche Grundlage für die Integration und Nutzung von KI-Technologien in Schulen schaffen und somit den Einsatz dieser Technologien in der gesamten Schweiz erleichtern. - Kantonale oder regionale Anlaufstellen für KI-Anbieter:
Es wäre zielführend, kantonale oder regionale Anlaufstellen zu schaffen, bei denen KI-Anbieter ihre Produkte auf Datenschutzkonformität überprüfen lassen können. Dies würde Wiederholungen und Doppelspurigkeiten vermeiden, indem es einzelnen Schulen erspart würde, parallel mit verschiedenen Anbietern die gleichen Fragen zu klären. Des Weiteren können solche Anlaufstellen wichtige Schnittstellen zwischen Theorie und Praxis sein, um aktuell bestehende Diskrepanzen zu überwinden. - Verfolgung eigener Zwecke bei der KI-Produkt-Entwicklung:
Es besteht eine erhebliche Unsicherheit bezüglich der Weiterverwendung von Daten und urheberrechtlich geschützten Werken für die Entwicklung von KI-Lösungen. Daher ist ein intensiverer politischer und gesellschaftlicher Diskurs erforderlich, um zu klären, inwiefern es Herstellern ermöglicht werden sollte, Personendaten und geschützte Werke für innovative Entwicklungen im Bildungsbereich, für eigene Zwecke und für kommerzielle Aktivitäten zu nutzen. Hierbei sollte insbesondere die Balance zwischen Innovationsförderung und Schutz von persönlichen und geistigen Eigentumsrechten beachtet werden.
Diese Empfehlungen sollen zur Entwicklung einer umfassenden und zukunftsfähigen Strategie für den Einsatz von KI im Bildungsbereich in der Schweiz beitragen. Sie bilden die Grundlage für einen breiten und tiefgreifenden Dialog zwischen allen Beteiligten, um das Thema KI im Bildungsbereich harmonisiert und konstruktiv angehen zu können.