Prof. Dr. Dirk Heckmann hielt am 27. Juli 2022 an der Hochschule München einen Vortrag mit dem Titel „Rechtsrahmen des Einsatzes von KI in der Schulbildung“. Im Rahmen der Veranstaltungsreihe „KI@School“ der Stiftung Bildungspakt Bayern zur individuellen Lernunterstützung ging es hierbei um Einsatzmöglichkeiten künstlicher Intelligenz an Schulen. Prof. Dr. Heckmann gab dazu einen Überblick zu den Anforderungen des Rechts an KI.
Nach einer kurzen Einführung aus Sicht der Informatik stellte er aus rechtswissenschaftlicher Sicht dar, was unter KI (künstlicher Intelligenz) zu verstehen ist. Der Einsatz künstlicher Intelligenz umfasst inzwischen nahezu jeden Lebensbereich und bietet enorme Chancen, aber auch große Risiken. Prof. Dr. Heckmann erläuterte die Herausforderungen, die KI-Systeme als Black-Box für Transparenz und Autonomie und somit für einen menschenwürdigen und dem Gemeinwohl dienenden digitalen Wandel bereithalten. Anschließend skizzierte er die beiden rechtlichen Ebenen, die für die Bewertung des Einsatzes von KI zentral sind: Zum einen die Anforderungen an die Daten, mit denen ein KI-System betrieben wird, hier vor allem das Datenschutzrecht. Zum anderen die Regulierung der Ergebnisse von KI-Systemen.
Professor Heckmann klärte das motivierte Publikum darüber auf, dass es weltweit noch keinen umfassenden Rechtsrahmen für Künstliche Intelligenz gibt. In den letzten Jahren wurde aber viele Vorarbeit dafür geleistet. Unter anderem auch von der Datenethikkommission der Bundesregierung, deren Mitglied Prof. Dr. Dirk Heckmann war. Er zeigte anhand des Vorschlags der EU-Kommission über einen AI-Act, wie ein menschenzentrierter und risikobasierter Ansatz zur Regulierung von KI aussehen kann. Mit diesem rechtlichen Hintergrund konzentrierte sich der Vortrag im letzten Teil auf die zahlreichen Einsatzfelder von KI in der Schulbildung. Durch „Educational Data Mining“ können große Erkenntnisse für die Schulorganisation und Verwaltung gewonnen werden und durch Automated Grading Lehrer und Lehrerinnen bei der Bewertung von Prüfungen entlastet werden. Das größte Potential liegt jedoch in der Unterstützung von individuellem Lernen durch das Bereitstellen angepasster Lernmittel und Empfehlungen. Gerade diesem gewinnbringenden Einsatz von KI legt das Recht praktisch keine Steine in den Weg, so Prof. Dr. Heckmann.
Ein Mitschnitt des Vortrags ist hier zu finden.