Portal:Künstliche Intelligenz/Rechtliche Fragen

Recht und KI

Die Nutzung generativer KI-Anwendungen bringt rechtliche Herausforderungen mit sich, insbesondere im Hinblick auf Datenschutz, Urheberrecht und Persönlichkeitsrecht. Diese Aspekte sind für alle Mitglieder der MLU gleichermaßen relevant. Für den Einsatz des MLU-eigenen Zugangs MLU-KI gelten spezifische Nutzungsbedingungen.

Nachstehend sind einige grundlegenden Überlegungen erläutert.

Datenschutz und Persönlichkeitsrecht

Die Eingabe personenbezogener Daten in externe KI-Systeme ist grundsätzlich problematisch, da viele Anwendungen die eingegebenen Daten speichern oder zur Weiterentwicklung des Modells nutzen. Da die gegenwärtige Version von MLU-KI nur den Zugang zu fremdgehosteten LLM's ermöglicht, sind grundsätzlich keine personenbezogenen Daten in Prompts einzugeben. Dies betrifft insbesondere Namen, Matrikelnummern, Prüfungsleistungen oder andere sensiblen Informationen. Hier sind Sprachmodelle ganz ähnlich wie ein Webbrowser anzusehen.

Auch das Persönlichkeitsrecht ist zu beachten: Die KI kann realistisch wirkende, aber erfundene Inhalte über Personen generieren, was zu Rufschädigung oder Falschinformationen führen kann. Solche Halluzinationen der KI können haftungsrechtliche Konsequenzen haben.

Urheberrecht und geistiges Eigentum

Generative KI-Modelle basieren auf bestehenden Daten, sodass die Nutzung von urheberrechtlich geschützten Werken problematisch sein kann. Das Urheberrecht wirkt dabei in beide Richtungen: Bei der Eingabe (Prompts) dürfen Sie keine urheberechtlich geschützten Werke ohne vorliegende Erlaubnis verwenden, da diese vom KI-System eventuell auch zu Trainingszwecken weiterverwendet werden könnten. Aber auch bei der Ausgabe können Sie nicht sicher sein, dass die KI eventuell urheberrechtlich geschützte Werke oder Werkteile erstellt, da das System auf weitgehend unbekannten Trainingsdaten basiert. Anweisungen wie "Übernehme bei der Texterstellung den Sprachstil von XY" erhöhen die Wahrscheinlichkeit, dass Werkteile eventuell plagiiert werden.

Es gilt grundsätzlich:

• Eingabe von geschützten Inhalten: Urheberrechtlich geschützte Texte, Bilder oder andere Werke dürfen nur mit Erlaubnis des Urhebers oder im Rahmen gesetzlicher Schranken genutzt werden, etwa § 60a UrhG (Lehre) und § 60c UrhG (Forschung).
• Plagiatsrisiko: KI kann Inhalte generieren, die bestehende Werke unbewusst kopieren oder stark ähneln, was zu Urheberrechtsverletzungen führen kann. Deshalb sollten Texte und Bilder stets auf Originalität geprüft werden.
• KI-generierte Inhalte: Die meisten Outputs generativer KI gelten nicht als urheberrechtlich geschützt (sind somit auch nicht zitierfähig), da sie ohne menschliche schöpferische Leistung entstehen. Allerdings kann eine Person durch eigene kreative Bearbeitung oder gezieltes Prompting Urheberrechte an einem KI-gestützten Werk erwerben, wobei hier eine abschließende juristische Bewertung noch aussteht.

Regulierung durch die EU-Verordnung

Die EU-Verordnung zum AI Act unterteilt Künstliche Intelligenz in verschiedene Risikoklassen:

• Geringes Risiko: KI-gestützte Schreibtools, Bildgeneratoren oder Übersetzungsprogramme
• Hohes Risiko: KI in Bildungseinrichtungen, wenn sie z. B. Bewertungen oder Prüfungen beeinflusst
• Unzulässige KI: Systeme, die Menschen manipulieren oder Sozialbewertungen (Social Scoring) vornehmen

Je nach Anwendungsbereich sind angemessene Kenntnisse und Sorgfaltspflichten für Nutzer, Anbieter und Betreiber erforderlich, die sich zusätzlich je nach Anwendungsfall unterscheiden. Betreiber eines KI-Systems ist zum Beispiel im Falle der MLU-KI die MLU. Betreiber kann aber auch ein Lehrender werden, wenn er Studierende die Benutzung eines KI-Systems vorgibt und der Output Bestandteil einer Prüfungsleistung wird. Je nach Anwendungsfall werden "angemessene Kompetenzen" von den Nutzern verlangt. Im Fall von MLU-KI ist daher das Durchlaufen des Selbstlernkurses für Studierende obligatorisch. Lehrende können entweder Weiterbildungsangebote des LLZ oder gleichwertige Angebote nutzen. Für Verwaltungsmitarbeiter werden spezifische Weiterbildungsangebote für KI im Öffentlichen Dienst angeboten.

Vorgaben der MLU

Die MLU hat sich eine eigene Leitlinie gegeben. …[Link]