Regelwerke

Mit dem AI Act der Europäischen Union entsteht erstmals ein umfassender Rechtsrahmen für den Einsatz von KI-Systemen in Europa. Ziel ist ein vertrauenswürdiger, transparenter und menschenzentrierter Einsatz von KI. Der AI Act verfolgt einen risikobasierten Ansatz und unterscheidet zwischen verbotenen, hochriskanten und allgemeinen KI-Anwendungen. Hochschulen sind insbesondere betroffen, wenn KI in Prüfungen, Bewertungssystemen, Verwaltung oder Entscheidungsprozessen eingesetzt wird.  

Wichtige Aspekte für Hochschulen: 

• Transparenzpflichten beim Einsatz generativer KI  

• Anforderungen an Datenschutz und Dokumentation  

• Verantwortung der Betreiber von KI-Systemen  

• Kompetenzaufbau und Schulung von Mitarbeitenden  

• Risikomanagement bei sensiblen Anwendungen  

Die Deutsche Forschungsgemeinschaft (DFG) betont, dass auch beim Einsatz von KI in Forschung und wissenschaftlichem Arbeiten die Grundsätze guter wissenschaftlicher Praxis gelten. Verantwortung, Nachvollziehbarkeit und Transparenz verbleiben stets bei den Forschenden. 

Besonders relevant sind: 

• Dokumentation der Nutzung von KI-Tools  

• Sicherstellung wissenschaftlicher Eigenleistung  

• Transparenz bei KI-generierten Inhalten  

• Verantwortung für Fehler, Bias und Halluzinationen  

• Wahrung wissenschaftlicher Integrität  

Die DFG verweist darauf, dass KI-Systeme keine Autorenschaft übernehmen können und Ergebnisse kritisch geprüft werden müssen. 

Die bayerischen Hochschulen für angewandte Wissenschaften und Technischen Hochschulen haben gemeinsam eine umfangreiche KI-Leitlinie Hochschullehre veröffentlicht. Sie bietet praxisnahe Empfehlungen für Studium, Lehre und Prüfungen und richtet sich an Hochschulleitungen, Lehrende, Prüfende und Studierende.  

Die Leitlinie behandelt unter anderem: 

• ethische und rechtliche Grundlagen  

• Datenschutz und Urheberrecht  

• KI in Lehrveranstaltungen und Selbststudium  

• KI in Prüfungen und Abschlussarbeiten  

• Kennzeichnungspflichten  

• Eigenständigkeitserklärungen  

• Einsatz von KI zur Prüfungsbewertung  

• Bereitstellung und Betrieb von KI-Systemen  

• Kompetenzaufbau und Fortbildung  

Besonders hervorzuheben ist der praxisorientierte Ansatz mit Checklisten, Einsatzszenarien und Beispielen für Prüfungsrichtlinien. 

Auch die bayerische Staatsverwaltung hat umfassende Orientierungshilfen zum Einsatz von KI veröffentlicht. Die Leitfäden wurden unter Federführung des Bayerischen Staatsministeriums der Finanzen und für Heimat entwickelt und richten sich sowohl an Behörden als auch an Beschäftigte.  

Im Fokus stehen: 

• sichere Einführung von KI-Systemen  

• Datenschutz und IT-Sicherheit  

• generative KI im Arbeitsalltag  

• organisatorische und rechtliche Anforderungen  

• Aufbau von KI-Kompetenzen  

• Standards für den KI-Einsatz in Behörden  

Diese Leitlinien sind auch für Hochschulverwaltungen relevant, insbesondere im Kontext automatisierter Prozesse und KI-gestützter Verwaltungsarbeit. 

Der Bayerische Landesbeauftragte für den Datenschutz (BayLfD) veröffentlicht regelmäßig Orientierungshilfen zum datenschutzkonformen Einsatz von KI in öffentlichen Einrichtungen. Dabei geht es insbesondere um: 

• Verarbeitung personenbezogener Daten  

• Einsatz generativer KI-Systeme  

• Risiken bei Cloud-Diensten  

• RAG-Systeme und Dokumentenverarbeitung  

• Transparenz- und Informationspflichten  

Gerade Hochschulen müssen beim Einsatz externer KI-Systeme datenschutzrechtliche Anforderungen sorgfältig prüfen.  

Weitere Informationen: 

Viele Hochschulen entwickeln inzwischen eigene Richtlinien für den Umgang mit KI (sieh auch FAU Leitlinien – BITTE VERLINKEN)  in Lehre, Forschung und Studium. Häufig verweisen sie  auf Benutzungsrichtlinien, Empfehlungen zum wissenschaftlichen Schreiben mit KI sowie Hinweise zum Einsatz von KI-Detektoren.  

Themen solcher Richtlinien sind häufig: 

• erlaubte und unerlaubte KI-Nutzung  

• Kennzeichnungspflichten  

• Transparenz in Prüfungen  

• KI-gestützte Textproduktion  

• Umgang mit KI-generierten Bildern und Daten  

• wissenschaftliches Zitieren von KI-Inhalten  

Beispiele: 

Die Diskussion um KI in Prüfungen hat sich in Bayern in den letzten Jahren stark intensiviert. Das Bayerische Wissenschaftsministerium verfolgt zunehmend den Ansatz, KI nicht grundsätzlich zu verbieten, sondern Prüfungsformate weiterzuentwickeln. Wissenschaftsminister Markus Blume betonte mehrfach, dass ein generelles KI-Verbot in Hochschulprüfungen nicht sinnvoll sei. Stattdessen müssten Prüfungen stärker kompetenzorientiert gestaltet werden.  

Diskutiert werden insbesondere: 

• offene Prüfungsformate  

• stärker mündliche Prüfungen  

• reflexive Prüfungsanteile  

• Dokumentation von KI-Nutzung  

• KI-gestützte Arbeitsprozesse als Prüfungsgegenstand  

• Transparenz- und Kennzeichnungspflichten  

Gutachten, Handreichungen und rechtliche Einordnungen 

1. Heckmann & Rachut: Generative KI im Prüfungskontext 

Ein besonders häufig rezipierter juristischer Beitrag stammt von Prof. Dr. Dirk Heckmann und Sarah Rachut. Der Beitrag analysiert die rechtlichen Rahmenbedingungen des Einsatzes generativer KI in Hochschulprüfungen. Zentral ist dabei die Frage, wann KI als zulässiges Hilfsmittel gilt und wann eine Täuschungshandlung vorliegt.  

Die Autoren argumentieren: 

• Prüfungsordnungen müssen explizit regeln, ob KI erlaubt ist.  

• KI darf nicht pauschal verboten oder erlaubt werden.  

• Entscheidend ist die Definition „zugelassener Hilfsmittel“.  

• Hochschulen benötigen differenzierte Prüfungsstrategien.  

• Transparenz und Dokumentation werden zentral.  

2. Rechtsfragen KI-integrierender Prüfungen

Eine umfassende juristische Handreichung zu KI-gestützten Prüfungen analysiert rechtliche Fragen rund um KI-integrierende Prüfungsformate. Thematisiert werden Datenschutz, Prüfungsrecht, Täuschung, Urheberrecht und Prüfungsvalidität.  

Die Handreichung diskutiert unter anderem: 

• KI als erlaubtes Hilfsmittel  

• Nachweisbarkeit von KI-Nutzung  

• Prüfungsfairness  

• Datenschutz bei KI-Systemen  

• Anforderungen an Prüfungsordnungen  

• Risiken automatisierter Bewertung  

3. Verwaltungsgericht München: KI als Täuschung

Das Verwaltungsgericht München hat bereits 2023 einen wichtigen Beschluss zum KI-Einsatz im Hochschulkontext getroffen. In dem Verfahren ging es um einen KI-generierten Essay im Rahmen eines Master-Zulassungsverfahrens. Das Gericht wertete die Nutzung als Täuschung, da die KI-Nutzung nicht offengelegt wurde.  

Der Beschluss zeigt: 

• KI-Nutzung kann prüfungsrechtlich relevant sein.  

• Transparenz ist entscheidend.  

• Nicht deklarierte KI-Nutzung kann Täuschung darstellen.  

• Hochschulen benötigen klare Regelungen.  

Bayerisches Hochschulinnovationsgesetz (BayHIG) 

Das BayHIG bildet die zentrale gesetzliche Grundlage für Hochschulen in Bayern. Derzeit wird diskutiert, wie KI explizit in Prüfungsordnungen und hochschulrechtlichen Regelungen berücksichtigt werden kann.