- FernUni /
- ZLI /
- Innovation /
- KI in der Lehre /
- Rechtliche Informationen
Rechtliche Informationen
Hinweis
Das ZLI kann und darf keine Rechtsberatung leisten. Sollten Sie juristische Fragestellungen haben, wenden Sie sich als FernUni-Angehörige bitte an das Dezernat 2.4 oder bei datenschutzrechtlichen Fragestellungen an den Behördlichen Datenschutzbeauftragten. Personen, die nicht an der FernUni beschäftigt sind, wenden sich bitte an die entsprechenden Stellen der eigenen Hochschule.
Zunächst muss darauf hingewiesen werden, dass viele rechtliche Fragen zu KI-Anwendungen momentan noch nicht geklärt sind. Ein Rechtsgutachten des Projekts KI:edu.nrw beleuchtet einige urheber- und prüfungsrechtliche Fragen im Umgang mit KI-Anwendungen an der Hochschule: https://doi.org/10.13154/294-9734. Das Bundesministerium für Justiz hat im März 2024 ein Dokument mit häufigen Fragen zu KI und Urheberrecht veröffentlicht.
Auf dieser Seite sammeln wir einige Fragen, deren Beantwortung in Zusammenarbeit mit dem Justitiariat und dem Datenschutzbeauftragten entstand. Eine ausführliche Auseinandersetzung mit rechtlichen Fragen im Zusammenhang mit Künstlicher Intelligenz finden Sie in den Handlungsempfehlungen (PDF 558 KB).
-
Fest steht, dass die Software selbst nicht als Person im rechtlichen Sinn gilt und daher auch keine Rechte besitzt. Ebenso können die Programmierer*innen der Software keine Rechte an der Ausgabe besitzen. Til Kreutzer von irights.info kommt in einer Einschätzung zu dem Schluss: „Je autonomer die KI bei solchen Schöpfungen arbeitet, desto unwahrscheinlicher ist ein urheberrechtlicher Schutz des Outputs.“
Genauere Informationen finden Sie im Artikel „Welche Regeln gelten für die Erzeugnisse Künstlicher Intelligenz?“ auf irights.info.
Zum Thema ChatGPT und Urheberrecht hat auch Prof. Dr. Thomas Hoeren von der Uni Münster einen Beitrag veröffentlicht: „Geistiges Eigentum“ ist tot – lang lebe ChatGPT.
Das Bundesministerium für Justiz weist in seinem FAQ zum Thema KI und Urheberrecht darauf hin, dass KI-generierte Inhalte bei erkennbarer Nähe zu Werken von Autor*innen oder Künstler*innen dem Urheberrecht unterliegen: "Hinsichtlich KI greift das Urheberrecht also nur dann, wenn die Basis für das neu erzeugte Werk ursprünglich von einem Menschen geschaffen wurde. Es ist somit im Einzelfall abzugrenzen, ob ausreichender Einfluss auf die konkrete Formgestaltung in der Hand des Menschen verbleibt oder nicht."
-
Zum einen ist momentan kein Erkennungstool fähig, KI-generierte Texte zuverlässig zu erkennen. Eine rechtssichere Erkennung ist damit nicht gegeben, auch wenn eine plausible Erkennung durchaus möglich ist (vgl. "KI in Prüfungsarbeiten erkennen" von Matthis Kepser).
Für die Weiterverarbeitung der Texte wird darüber hinaus - ähnlich wie bei Plagiatserkennungssoftware - eine Einwilligung oder eine sonstige Rechtsgrundlage benötigt.
Im Rechtsgutachten des Projekt KI:edu.nrw kommt Prof. Dr. Thomas Hören zu dem Schluss, dass die vollumfängliche Bewertung durch eine KI-Anwendung nicht zulässig ist, da in Prüfungsordnungen von Bewertungen durch prüfende Personen gesprochen wird. Ein Korrekturunterstützung, z. B. bei der Formulierung von Gutachten im Prüfungszusammenhang, kann hingegen zulässig sein. Bitte beachten Sie dazu das Kapitel 4.1 des Gutachtens (S. 35ff). Prof. Hören weist außerdem darauf hin, dass bei der Verarbeitung von studentischen Arbeiten in KI-Anwendungen datenschutzrechtliche und urheberrechtliche Aspekte berücksichtigt werden müssen (S. 37).
-
Die Thematisierung von KI-Anwendungen stellt insofern einen Teil des dienstlichen Auftrags von Lehrenden dar, als dass sie für die berufliche Zukunft der Studierenden zukünftig einen wichtigen Anteil spielen werden. Die Lehrenden können die Handhabung von KI-Anwendungen aber nur dann richtig beurteilen, wenn diese KI-Anwendungen auch tatsächlich eingesetzt werden können. Deshalb können Lehrende diese KI-Programme sowohl selbst ausprobieren, um Inhalte, Methoden, Szenarien, usw. für ihre fachbezogene Lehre oder allgemeine didaktische Verfahren zu entwickeln. Zudem können sie KI-Anwendungen auch in ihren Lehrveranstaltungen verwenden, unter Beachtung weiterer Anforderungen (siehe dazu die Informationen in Kapitel 3.2 der Handlungsempfehlungen (PDF 558 KB)). Dabei sollten die Lizenzen für jegliche Anwendungen stets mit dienstlichen (Kontakt)-Daten im Rahmen der Hochschule bezogen werden. Es soll vermieden werden, dass mit privaten Kontaktdaten oder Finanzdaten (z. B. Kreditkarte) Lizenzen für die Lehre erworben werden.
Zudem sollte mit den Beschaffungs- und Lizenzstellen oder innerhalb des Lehrgebiets bzw. der Fakultät geklärt werden, ob und welche Lizenzen bereits vorhanden oder erworben werden könnten.
-
Für Prüfungsleistungen ist geregelt, welche Hilfsmittel eingesetzt werden dürfen. Sind Tools wie ChatGPT nicht explizit zugelassen, ist erst einmal davon auszugehen, dass die Nutzung nicht erwünscht ist. Insbesondere in hilfsmittelbeschränkten Klausuren wird die Nutzung solcher Hilfsmittel ohne explizite Erlaubnis als Täuschung gewertet.
Halten Sie daher im Zweifelsfall Rücksprache mit ihren Prüfer*innen. In jedem Fall empfehlen wir eine möglichst transparente Nutzung solcher Tools, indem Sie etwa im Methodenteil darauf eingehen und/oder das Tool als Quelle angeben.
Zur Zitationsweise enthalten die Handlungsempfehlungen (PDF 558 KB) ein eigenes Kapitel "Hinweise zum Zitieren mit und aus KI".
Weitere Informationen finden Sie auf der Seite "Informationen für Studierende".
-
Viele KI-Anwendungen sind die Produkte amerikanischer, kommerzieller Unternehmen. Dementsprechend entsprechen diese Andwendungen nicht den europäischen Datenschutzbestimmungen. Anfragen (Prompts) können mindestens zum weiteren Training verwendet werden, sofern diese Option nicht aktiv ausgeschaltet wird. Dies lässt sich meist nur in den kostenpflichtigen Versionen der Anwendungen vornehmen. Des Weiteren besteht eine Vielzahl an datenschutzbezogenen und ethischen Bedenken, die unter anderem auch auf europäischer Ebene legislativ diskutiert werden. Dass diese Bedenken ernst genommen werden müssen, zeigt sich u. a. daran, dass Italien die Nutzung von ChatGPT aus diesen Gründen zeitweise unterbunden hat und mittlerweile stark reguliert.
Bitte beachten Sie besonders: Auf Grund der Dynamik des Feldes lassen sich keine klaren Empfehlungen aussprechen. Grundsätzlich gilt jedoch, dass KI-Anwendungen nur mit Bedacht eingesetzt werden sollten und die Nutzung im Lehrkontext nur nach Beachtung der in Kapitel 3.2 der Handlungsempfehlungen (PDF 558 KB) aufgeführten Aspekte erfolgen kann. Insbesondere die Eingabe vertraulicher und personenbezogener Daten sollte dringend unterlassen werden. Dies gilt etwa auch für Korrespondenzen mit Kolleg*innen und Studierenden oder Prüfungsleistungen.
Ethische und Datenschutzfragen können übrigens selber zum Lehrgegenstand gemacht werden. Gute Tipps dazu finden sich hier: https://autumm.edtech.fm/2023/01/18/prior-to-or-instead-of-using-chatgpt-with-your-students/
-
Die folgenden Anwendungsszenarien sind – mit Ausnahme des letzten Beispiels – aus datenschutzrechtlicher Sicht zulässig. Lehrende und Studierende können im Rahmen der beschriebenen Szenarien KI-Anwendungen also testen.
Szenario 1: Lehrende haben ein Benutzerkonto, Studierende haben kein Benutzerkonto
- Die Lehrenden haben eine Lizenz und ein Benutzerkonto mit ihren dienstlichen Daten (z. B. dienstliche E-Mail-Adresse) bei einer KI-Anwendung.
- Die Lehrenden zeigen in ihrer Lehrveranstaltung den Studierenden die Funktionalität der KI-Anwendung.
- Prompts der Studierenden werden von den Lehrenden eingegeben. Die Ausgaben werden allen Studierenden zur Verfügung gestellt.
Szenario 2: Lehrende nutzen Pseudonyme für die Anmeldung bei KI-Anwendungen
- Theoretisch besteht die Möglichkeit Pseudonyme oder sogenannte Wegwerf-E-Mail-Adressen für eine Registrierung bei KI-Anwendungen zu verwenden.
- Allerdings ist zu prüfen, ob die Nutzungsbedingungen der Anbieter vorsehen, dass Pseudonyme oder Wegwerf-E-Mail-Adressen zur Registrierung genutzt werden dürfen.
Szenario 3: Lehrende haben ein Benutzerkonto und fragen die freiwillige Nutzung von Studierendenkonten für einzelne Lehrveranstaltungen ab
- Lehrende fragen bei den Studierenden ab, ob sie über ein privates Benutzerkonto bei einer KI-Anwendung verfügen.
- Sofern dies bei einer ausreichend großen Anzahl von Studierenden der Fall ist, könnte das für Übungen in der Lehre genutzt werden, wenn keine Verpflichtung besteht.
- In der Lehrveranstaltung wird im Rahmen der Regeln im Umgang mit KI-Anwendungen auf die Freiwilligkeit der Nutzung des privaten Nutzerkontos der Studierenden verwiesen und die Zustimmung eingeholt (Hinweis: Es handelt sich hier nicht um eine datenschutzrechtliche Einwilligung).
- Studierende ohne Konto sollen in diesem Szenario bei anderen zusehen können, um eine Benachteiligung zu vermeiden.
Szenario 4: Lehrende geben den Studierenden die Nutzung von KI-Anwendung vor bei der sie sich mit ihren personenbezogenen Daten anmelden sollen
Das ist nicht zulässig.
