K (Markus Scholz verschob die Seite Archiv:Künstliche Intelligenz/Rechtliche Fragen nach Portal:Künstliche Intelligenz/Rechtliche Fragen, ohne dabei eine Weiterleitung anzulegen) |
Keine Bearbeitungszusammenfassung |
||
| Zeile 10: | Zeile 10: | ||
</div> | </div> | ||
<div class="text" aria-labelledby="KI-Recht"> | <div class="text" aria-labelledby="KI-Recht"> | ||
Die Nutzung generativer KI-Anwendungen bringt rechtliche Herausforderungen mit sich, insbesondere im Hinblick auf Datenschutz, Urheberrecht und Persönlichkeitsrecht. Diese Aspekte sind für Hochschullehrende und Studierende gleichermaßen relevant. | Die Nutzung generativer KI-Anwendungen bringt rechtliche Herausforderungen mit sich, insbesondere im Hinblick auf Datenschutz, Urheberrecht und Persönlichkeitsrecht. Diese Aspekte sind für Hochschullehrende und Studierende gleichermaßen relevant. Für den Einsatz von MLU-KI gelten spezifische Nutzungsbedingungen. | ||
Nachstehend sind einige grundlegenden Überlegungen erläutert. | |||
</div> | </div> | ||
| Zeile 20: | Zeile 22: | ||
</div> | </div> | ||
<div class="text" aria-labelledby="DS und PR"> | <div class="text" aria-labelledby="DS und PR"> | ||
Die Eingabe personenbezogener Daten in externe KI-Systeme ist grundsätzlich problematisch, da viele Anwendungen die eingegebenen Daten speichern oder zur Weiterentwicklung des Modells nutzen. | Die Eingabe personenbezogener Daten in externe KI-Systeme ist grundsätzlich problematisch, da viele Anwendungen die eingegebenen Daten speichern oder zur Weiterentwicklung des Modells nutzen. Da die gegenwärtige Version von MLU-KI nur den Zugang zu fremdgehosteten LLM's ermöglicht, sind grundsätzlich keine personenbezogenen Daten in Prompts einzugeben. Dies betrifft insbesondere Namen, Matrikelnummern, Prüfungsleistungen oder andere sensiblen Informationen. Hier sind Sprachmodelle ganz ähnlich wie ein Webbrowser anzusehen. | ||
Auch das Persönlichkeitsrecht ist zu beachten: Die KI kann realistisch wirkende, aber erfundene Inhalte über Personen generieren, was zu Rufschädigung oder Falschinformationen führen kann. Solche Halluzinationen der KI können haftungsrechtliche Konsequenzen haben. | Auch das Persönlichkeitsrecht ist zu beachten: Die KI kann realistisch wirkende, aber erfundene Inhalte über Personen generieren, was zu Rufschädigung oder Falschinformationen führen kann. Solche Halluzinationen der KI können haftungsrechtliche Konsequenzen haben. | ||
| Zeile 31: | Zeile 33: | ||
</div> | </div> | ||
<div class="text" aria-labelledby="Urheberrecht"> | <div class="text" aria-labelledby="Urheberrecht"> | ||
Generative KI-Modelle basieren auf bestehenden Daten, sodass die Nutzung von urheberrechtlich geschützten Werken problematisch sein kann. | Generative KI-Modelle basieren auf bestehenden Daten, sodass die Nutzung von urheberrechtlich geschützten Werken problematisch sein kann. Das Urheberrecht wirkt dabei in beide Richtungen: Bei der Eingabe (Prompts) dürfen Sie keine urheberechtlich geschützten Werke ohne vorliegende Erlaubnis verwenden, da diese vom KI-System eventuell auch zu Trainingszwecken weiterverwendet werden könnten. Aber auch bei der Ausgabe können Sie nicht sicher sein, dass die KI eventuell urheberrechtlich geschützte Werke oder Werkteile erstellt, da das System auf weitgehend unbekannten Trainingsdaten basiert. Anweisungen wie "Übernehme bei der Texterstellung den Sprachstil von XY" erhöhen die Wahrscheinlichkeit, dass Werkteile eventuell plagiiert werden. | ||
Es gilt grundsätzlich: | |||
*'''Eingabe von geschützten Inhalten:''' Urheberrechtlich geschützte Texte, Bilder oder andere Werke dürfen nur mit Erlaubnis des Urhebers oder im Rahmen gesetzlicher Schranken genutzt werden, etwa § 60a UrhG (Lehre) und § 60c UrhG (Forschung). | *'''Eingabe von geschützten Inhalten:''' Urheberrechtlich geschützte Texte, Bilder oder andere Werke dürfen nur mit Erlaubnis des Urhebers oder im Rahmen gesetzlicher Schranken genutzt werden, etwa § 60a UrhG (Lehre) und § 60c UrhG (Forschung). | ||
*'''KI-generierte Inhalte:''' Die meisten Outputs generativer KI gelten nicht als urheberrechtlich geschützt (sind somit auch nicht zitierfähig), da sie ohne menschliche schöpferische Leistung entstehen. Allerdings kann eine Person durch eigene kreative Bearbeitung oder gezieltes Prompting Urheberrechte an einem KI-gestützten Werk erwerben, wobei hier eine abschließende juristische Bewertung noch aussteht | *'''Plagiatsrisiko:''' KI kann Inhalte generieren, die bestehende Werke unbewusst kopieren oder stark ähneln, was zu Urheberrechtsverletzungen führen kann. Deshalb sollten Texte und Bilder stets auf Originalität geprüft werden. | ||
*'''KI-generierte Inhalte:''' Die meisten Outputs generativer KI gelten nicht als urheberrechtlich geschützt (sind somit auch nicht zitierfähig), da sie ohne menschliche schöpferische Leistung entstehen. Allerdings kann eine Person durch eigene kreative Bearbeitung oder gezieltes Prompting Urheberrechte an einem KI-gestützten Werk erwerben, wobei hier eine abschließende juristische Bewertung noch aussteht.</div> | |||
<div class="linie"> | <div class="linie"> | ||
| Zeile 48: | Zeile 52: | ||
*Unzulässige KI: Systeme, die Menschen manipulieren oder Sozialbewertungen (Social Scoring) vornehmen | *Unzulässige KI: Systeme, die Menschen manipulieren oder Sozialbewertungen (Social Scoring) vornehmen | ||
Je nach Anwendungsbereich sind '''angemessene''' Kenntnisse und Sorgfaltspflichten für Nutzer, Anbieter und Betreiber erforderlich, die sich zusätzlich je nach Anwendungsfall unterscheiden. | Je nach Anwendungsbereich sind '''angemessene''' Kenntnisse und Sorgfaltspflichten für Nutzer, Anbieter und Betreiber erforderlich, die sich zusätzlich je nach Anwendungsfall unterscheiden. Betreiber eines KI-Systems ist zum Beispiel im Falle der MLU-KI die MLU. Betreiber kann aber auch ein Lehrender werden, wenn er Studierende die Benutzung eines KI-Systems vorgibt und der Output Bestandteil einer Prüfungsleistung wird. Je nach Anwendungsfall werden "angemessene Kompetenzen" von den Nutzern verlangt. Im Fall von MLU-KI ist daher das Durchlaufen des Selbstlernkurses für Studierende obligatorisch. Lehrende können entweder Weiterbildungsangebote des LLZ oder gleichwertige Angebote nutzen. Für Verwaltungsmitarbeiter werden spezifische Weiterbildungsangebote für KI im Öffentlichen Dienst angeboten. | ||
</div> | </div> | ||
<div class="linie"> | <div class="linie"> | ||
Recht und KI
Die Nutzung generativer KI-Anwendungen bringt rechtliche Herausforderungen mit sich, insbesondere im Hinblick auf Datenschutz, Urheberrecht und Persönlichkeitsrecht. Diese Aspekte sind für Hochschullehrende und Studierende gleichermaßen relevant. Für den Einsatz von MLU-KI gelten spezifische Nutzungsbedingungen.
Nachstehend sind einige grundlegenden Überlegungen erläutert.
Datenschutz und Persönlichkeitsrecht
Die Eingabe personenbezogener Daten in externe KI-Systeme ist grundsätzlich problematisch, da viele Anwendungen die eingegebenen Daten speichern oder zur Weiterentwicklung des Modells nutzen. Da die gegenwärtige Version von MLU-KI nur den Zugang zu fremdgehosteten LLM's ermöglicht, sind grundsätzlich keine personenbezogenen Daten in Prompts einzugeben. Dies betrifft insbesondere Namen, Matrikelnummern, Prüfungsleistungen oder andere sensiblen Informationen. Hier sind Sprachmodelle ganz ähnlich wie ein Webbrowser anzusehen.
Auch das Persönlichkeitsrecht ist zu beachten: Die KI kann realistisch wirkende, aber erfundene Inhalte über Personen generieren, was zu Rufschädigung oder Falschinformationen führen kann. Solche Halluzinationen der KI können haftungsrechtliche Konsequenzen haben.
Urheberrecht und geistiges Eigentum
Generative KI-Modelle basieren auf bestehenden Daten, sodass die Nutzung von urheberrechtlich geschützten Werken problematisch sein kann. Das Urheberrecht wirkt dabei in beide Richtungen: Bei der Eingabe (Prompts) dürfen Sie keine urheberechtlich geschützten Werke ohne vorliegende Erlaubnis verwenden, da diese vom KI-System eventuell auch zu Trainingszwecken weiterverwendet werden könnten. Aber auch bei der Ausgabe können Sie nicht sicher sein, dass die KI eventuell urheberrechtlich geschützte Werke oder Werkteile erstellt, da das System auf weitgehend unbekannten Trainingsdaten basiert. Anweisungen wie "Übernehme bei der Texterstellung den Sprachstil von XY" erhöhen die Wahrscheinlichkeit, dass Werkteile eventuell plagiiert werden.
Es gilt grundsätzlich:
Regulierung durch die EU-Verordnung
Die EU-Verordnung zum AI Act unterteilt Künstliche Intelligenz in verschiedene Risikoklassen:
Je nach Anwendungsbereich sind angemessene Kenntnisse und Sorgfaltspflichten für Nutzer, Anbieter und Betreiber erforderlich, die sich zusätzlich je nach Anwendungsfall unterscheiden. Betreiber eines KI-Systems ist zum Beispiel im Falle der MLU-KI die MLU. Betreiber kann aber auch ein Lehrender werden, wenn er Studierende die Benutzung eines KI-Systems vorgibt und der Output Bestandteil einer Prüfungsleistung wird. Je nach Anwendungsfall werden "angemessene Kompetenzen" von den Nutzern verlangt. Im Fall von MLU-KI ist daher das Durchlaufen des Selbstlernkurses für Studierende obligatorisch. Lehrende können entweder Weiterbildungsangebote des LLZ oder gleichwertige Angebote nutzen. Für Verwaltungsmitarbeiter werden spezifische Weiterbildungsangebote für KI im Öffentlichen Dienst angeboten.
Vorgaben der MLU
Die MLU hat sich eine eigene Leitlinie gegeben. …[Link]