Die Nutzung generativer KI-Anwendungen bringt rechtliche Herausforderungen mit sich, insbesondere im Hinblick auf Datenschutz, Urheberrecht und Persönlichkeitsrecht. Diese Aspekte sind für Hochschullehrende und Studierende gleichermaßen relevant.
Recht und KI
Datenschutz und Persönlichkeitsrecht
Die Eingabe personenbezogener Daten in externe KI-Systeme ist grundsätzlich problematisch, da viele Anwendungen die eingegebenen Daten speichern oder zur Weiterentwicklung des Modells nutzen. Es wird daher empfohlen, grundsätzlich keine personenbezogenen Daten in Prompts einzugeben. Dies betrifft insbesondere Namen, Matrikelnummern, Prüfungsleistungen oder andere sensiblen Informationen.
Auch das Persönlichkeitsrecht ist zu beachten: Die KI kann realistisch wirkende, aber erfundene Inhalte über Personen generieren, was zu Rufschädigung oder Falschinformationen führen kann. Solche Halluzinationen der KI können haftungsrechtliche Konsequenzen haben.
Urheberrecht und geistiges Eigentum
Generative KI-Modelle basieren auf bestehenden Daten, sodass die Nutzung von urheberrechtlich geschützten Werken problematisch sein kann. Es gilt grundsätzlich:
- Eingabe von geschützten Inhalten: Urheberrechtlich geschützte Texte, Bilder oder andere Werke dürfen nur mit Erlaubnis des Urhebers oder im Rahmen gesetzlicher Schranken genutzt werden, etwa § 60a UrhG (Lehre) und § 60c UrhG (Forschung).
- KI-generierte Inhalte: Die meisten Outputs generativer KI gelten nicht als urheberrechtlich geschützt (sind somit auch nicht zitierfähig), da sie ohne menschliche schöpferische Leistung entstehen. Allerdings kann eine Person durch eigene kreative Bearbeitung oder gezieltes Prompting Urheberrechte an einem KI-gestützten Werk erwerben, wobei hier eine abschließende juristische Bewertung noch aussteht.
- Plagiatsrisiko: KI kann Inhalte generieren, die bestehende Werke unbewusst kopieren oder stark ähneln, was zu Urheberrechtsverletzungen führen kann. Deshalb sollten Texte und Bilder stets auf Originalität geprüft werden.
Regulierung durch die EU-Verordnung
Die EU-Verordnung zum AI Act unterteilt Künstliche Intelligenz in verschiedene Risikoklassen:
Je nach Anwendungsbereich sind angemessene Kenntnisse und Sorgfaltspflichten für Nutzer, Anbieter und Betreiber erforderlich, die sich zusätzlich je nach Anwendungsfall unterscheiden.
- Geringes Risiko: KI-gestützte Schreibtools, Bildgeneratoren oder Übersetzungsprogramme
- Hohes Risiko: KI in Bildungseinrichtungen, wenn sie z. B. Bewertungen oder Prüfungen beeinflusst
- Unzulässige KI: Systeme, die Menschen manipulieren oder Sozialbewertungen (Social Scoring) vornehmen