Rechtliche Fragen zu Künstlicher Intelligenz

Recht und KI

Die Nutzung generativer KI-Anwendungen bringt rechtliche Herausforderungen mit sich, insbesondere im Hinblick auf Datenschutz, Urheberrecht und Persönlichkeitsrecht. Diese Aspekte sind für alle Mitglieder der MLU gleichermaßen relevant. Für den Einsatz des MLU-eigenen Zugangs MLU-KI gelten spezifische Nutzungsbedingungen.

Datenschutz und Persönlichkeitsrecht

Die Eingabe personenbezogener Daten in externe KI-Systeme ist grundsätzlich problematisch, da viele Anwendungen die eingegebenen Daten speichern oder zur Weiterentwicklung des Modells nutzen. Da die gegenwärtige Version von MLU-KI nur den Zugang zu fremdgehosteten LLM's ermöglicht, sind grundsätzlich keine personenbezogenen Daten in Prompts einzugeben. Dies betrifft insbesondere Namen, Matrikelnummern, Prüfungsleistungen oder andere sensiblen Informationen. Hier sind Sprachmodelle ganz ähnlich wie ein Webbrowser oder eine andere Software mit externer Verarbeitung anzusehen.

Auch das Persönlichkeitsrecht ist zu beachten: Die KI kann realistisch wirkende, aber erfundene Inhalte über Personen generieren, was zu Rufschädigung oder Falschinformationen führen kann. Solche Halluzinationen der KI können haftungsrechtliche Konsequenzen haben.

Urheberrecht und geistiges Eigentum

Generative KI-Modelle basieren auf bestehenden Daten, mit denen sie trainiert wurden. Das Urheberrecht wirkt dabei in beide Richtungen: Bei der Eingabe (Prompts) dürfen Sie keine urheberechtlich geschützten Werke ohne vorliegende Erlaubnis verwenden, da diese vom KI-System eventuell auch zu Trainingszwecken weiterverwendet werden könnten. Dies gilt insbesondere für kommerzielle Angebote.

Aber auch bei der Ausgabe können Sie nicht sicher sein, dass die KI eventuell urheberrechtlich geschützte Werke oder Werkteile erstellt, da das System auf weitgehend unbekannten Trainingsdaten basiert. Anweisungen wie "Übernehme bei der Texterstellung den Sprachstil von XY" erhöhen die Wahrscheinlichkeit, dass Werkteile eventuell plagiiert werden.

Es gilt grundsätzlich:

• Eingabe von geschützten Inhalten: Urheberrechtlich geschützte Texte, Bilder oder andere Werke dürfen nur mit Erlaubnis des Urhebers oder im Rahmen gesetzlicher Schranken genutzt werden, etwa § 60a UrhG (Lehre) und § 60c UrhG (Forschung).
• Plagiatsrisiko: KI kann Inhalte generieren, die bestehende Werke unbewusst kopieren oder stark ähneln, was zu Urheberrechtsverletzungen führen kann. Deshalb sollten Texte und Bilder stets auf Originalität geprüft werden.
• KI-generierte Inhalte: Die meisten Outputs generativer KI gelten nicht als urheberrechtlich geschützt (sind somit auch nicht zitierfähig), da sie ohne menschliche schöpferische Leistung entstehen. Allerdings kann in Einzelfällen eine Person durch eigene kreative Bearbeitung oder gezieltes Prompting Urheberrechte an einem KI-gestützten Werk erwerben, wobei hier eine abschließende juristische Bewertung noch aussteht.

Regulierung durch die EU-Verordnung

Die EU-Verordnung zur Künstlichen Intelligenz (EU-AI-Act) unterteilt Künstliche Intelligenz in verschiedene Risikoklassen:

• Geringes Risiko: KI-gestützte Schreibtools, Bildgeneratoren oder Übersetzungsprogramme
• Hohes Risiko: KI in Bildungseinrichtungen, wenn sie z. B. Bewertungen oder Prüfungen beeinflusst
• Unzulässige KI: Systeme, die Menschen manipulieren oder Sozialbewertungen (Social Scoring) vornehmen

Je nach Anwendungsbereich sind angemessene Kenntnisse und Sorgfaltspflichten für Nutzer, Anbieter und Betreiber erforderlich, die sich zusätzlich je nach Anwendungsfall unterscheiden. Betreiber eines KI-Systems ist zum Beispiel im Falle der MLU-KI die MLU. Betreiber kann aber auch ein Lehrender werden, wenn er Studierenden die Benutzung eines KI-Systems vorgibt und der Output Bestandteil einer Prüfungsleistung wird. Je nach Anwendungsfall werden "angemessene Kompetenzen" von den Nutzern verlangt. Im Fall von MLU-KI ist daher das Durchlaufen des Selbstlernkurses für Studierende obligatorisch. Lehrende können entweder Weiterbildungsangebote des LLZ oder gleichwertige Angebote nutzen. Für Verwaltungsmitarbeiter werden spezifische Weiterbildungsangebote für KI im Öffentlichen Dienst angeboten.

Vorgaben der MLU

Die MLU verfügt seit 2025 über eine neue, überarbeitete Leitlinie zum Umgang mit generativer KI im Kontext von Studium und Lehre.

Was oft vergessen wird: Im Studienalltag sind die Studien- und Prüfungsordnungen mit den dort genannten Bedingungen weiterhin gültig. KI ist in diesem Zusammenhang ein weiteres Werkzeug, das - sofern nicht ausdrücklich erlaubt - unter die nicht zu verwendenden Hilfsmittel für Prüfungsleistungen gehört. Studierende sollten diese Regelungen ernst nehmen und sich im Zweifel bei den Lehrenden ausdrücklich erkundigen, ob KI für bestimmte Leistungen erlaubt und wie die Verwendung nachzuweisen ist. Ein Verstoß kann drastische Konsequenzen haben, wie z.B. ein aktuelles Urteil des VG Kassel zeigt.

Kennzeichnungspflicht für KI-generierte Inhalte

Seit dem 2. August 2026 gelten nach Art. 50 der EU-KI-Verordnung (AI Act) neue Transparenz- und Kennzeichnungspflichten für bestimmte mit KI generierte oder manipulierte Inhalte. Diesen Pflichten unterliegen nicht nur KI-Anbieter wie OpenAI oder Meta, sondern auch sogenannte Betreiber wie Agenturen, Behörden und auch Hochschulen. Die MLU ist mit Bereitstellung der MLU-KI eine Betreiberin. Hochschulangehörige, die im beruflichen Kontext KI-generierte Inhalte erstellen lassen oder verwenden, unterliegen der Kennzeichnungspflicht.

Was muss gekennzeichnet werden?

Im Fokus von Art. 50 stehen vor allem Inhalte, bei denen für Dritte der Eindruck entstehen kann, sie seien echt, obwohl sie ganz oder teilweise durch KI erzeugt bzw. manipuliert wurden. Die betrifft vor allem die sogenannten Deepfakes, also KI-generierte oder -manipulierte Bild-, Ton- oder Videoinhalte, die reale Personen, Gegenstände, Orte, Ereignisse oder Situationen darstellen und deshalb mit der Wirklichkeit verwechselt werden könnten.

Für Texte gelten differenziertere Regeln. Maßgeblich ist insbesondere, ob der veröffentlichte Inhalt von Menschen redaktionell geprüft oder verantwortet wurde. Eine automatische Veröffentlichung generierter Texte ohne Prüfung erfordert hingegen zwingend eine Kennzeichnung. Nicht kennzeichnungspflichtig sind zudem Rechtsschrieb- und Grammatikprüfung, sprachliche Glättung oder Übersetzungen (sofern damit nicht eigenständig neue irreführende Inhalte generiert werden). Die rechtliche Absicherung entbindet freilich nicht von den Grundsätzen guter wissenschaftlicher Praxis.

Erleichterungen bei der Kennzeichnungspflicht sieht Art. 50 bei offensichtlich fiktiven oder künstlerischen Inhalten vor: „Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz genannten Transparenzpflichten auf die Offenlegung des Vorhandenseins eines solchen künstlich erzeugten oder manipulierten Inhalts in einer angemessenen Weise, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.“ (Art 50 (4)).

Auch im privaten Bereich entfallen die Kennzeichnungspflichten.

Beispiele aus dem Hochschulkontext

Eine Fakultät veröffentlicht auf der eigenen Webseite ein KI-generiertes Foto der eigenen Gebäude, auf denen angeblich Studierende zu sehen sind. Es wirkt wie ein echtes Foto. Kennzeichnung: Zwingend, z.B. in Bildzeile, ALT-Text und/oder mit einem Symbol (s.u.)

In einem Erklärvideo wird das Audio über eine KI-generiert. Die Stimme klingt täuschend echt. Kennzeichnung: Zwingend, z.B. auf der Startseite oder beim Aufruf des Links. Der KI-Einsatz muss sofort beim Start des Videos erkennbar sein.

Für einen Tagungsbericht wird ein echtes Foto mit KI manipuliert, so dass die Veranstaltung wirkt, als ob mehr Menschen teilgenommen hätten. Kennzeichnung: Zwingend, z.B. in Bildzeile, ALT-Text und/oder mit einem Symbol (s.u.)

Eine Blogbeitrag wird von einem Redakteur erstellt, die KI „glättet“ den Text und korrigiert Rechtschreibfehler. Es erfolgt eine Endprüfung durch den Redakteur. Kennzeichnung: Nicht erforderlich. Bei wissenschaftlichen Arbeiten (inkl. prüfungsrelevanten Arbeiten) hingegen zwingende Kennzeichnungspflicht entsprechend Grundsätzen wiss. Arbeitens bzw. Vorgaben der Lehrenden.

Für ihre Vorlesungsfolien verwendet eine Dozentin eine KI-generierte, schematische Grafik zur Darstellung eines Prozesses. Es besteht keine Verwechslungsgefahr mit einer realen Aufnahme. Kennzeichnung: nicht erforderlich (Urheberrechtsfragen bei „Nachbau“ einer anderen Grafik wären jedoch zu beachten)

Die Fachschaft veröffentlicht Plakate mit einer offensichtlich satirischen Abbildung des Uni-Lebens. Die Abbildung ist fotorealistisch, aber erkennbar fiktiv. Kennzeichnung: Nicht erforderlich.

Die entscheidende Frage ist also nicht: „Wurde KI verwendet?“, sondern „Kann der veröffentlichte Inhalt für echt gehalten werden?“.

Wie muss gekennzeichnet werden?

Bei den typischen Veröffentlichungsformaten (Webseiten, Flyer, Veranstaltungsankündigungen, Erklär-Videos usw.) ist die Kennzeichnung zwingend. Die Kennzeichnung muss klar, verständlich und für die Zielgruppe wahrnehmbar sein (dies betrifft auch das Thema Barrierefreiheit). Es reicht aber eine Information z.B. in der Bildzeile: „Dieses Bild wurde mit KI generiert“, oder bei einem Podcast: „Diese Audioaufnahme wurde mit KI generiert“. Für die Barrierefreiheit eignen sich die Alternativtexte. Für eine schnelle visuelle Erkennung hat die EU einige Icons zur Verfügung gestellt, die fakultativ verwendet werden können. Es handelt sich um drei Symbole mit verschiedenen Darstellungsvarianten in grau, schwarz und weiß.

Nachstehend die Varianten auf schwarzem Grund:

Modifizierung von vorhanden, von Menschen erzeugten Inhalten (z.B. Austausch eines Gesichtes auf einem Originalfoto oder Hinzufügen von nicht existenten Personen).

Vollständig KI-generiert (Bild/Audio/Video oder Text ohne redaktionelle Kontrolle), etwa das fiktive Bild von Studierenden im Hörsaal.

Kann als flexible Textergänzung verwendet werden (die oberen beiden Icons können den Kennzeichnungstext komplett ersetzen). Beispiel: „Text erstellt mit “. Es wird sinnvoll für unklare Grauzonen oder abgestuften KI-Einsatz. Es könnte auch direkt in Blog-Überschriften eingebettet werden. In der Regel erfordert es aber zusätzliche Informationen, z.B.: „Die Recherche und Erstübersetzung dieses Textes wurden durch KI unterstützt, die finale redaktionelle Prüfung erfolgte durch einen Menschen“.