Künstliche Intelligenz in der Rechtsprechung

Von Tobias Sommer

Im Zuge der rasanten Entwicklung von Künstlicher Intelligenz (KI) sehen wir uns mit einer Vielzahl von Rechtsfragen konfrontiert, die unter anderem das Urheberrecht, Persönlichkeitsrecht, Vertragsrecht und Datenschutzrecht betreffen. Unternehmen, die KI-Technologien entwickeln, einsetzen oder sonst verwenden, stehen in der Verantwortung, sicherzustellen, dass sie die geltenden Gesetze und Vorschriften einhalten. Der Klärungsbedarf, der Regelungs-, Handlungs- und Gestaltungsbedarf ist hoch – sei es im Vertragsrecht, aber auch in Tarifverträgen, Betriebsvereinbarungen oder im Urheberrecht. Urheber sollten ihr geistiges Eigentum mit allen Mitteln schützen! Sie können zum Beispiel untersagen, dass KI-Modelle mit Ihren Daten und Informationen trainiert werden. Verbände sollten überlegen, wie sie ihr Klientel vor unliebsamen Auswirkungen der KI schützen können. Es geht unter anderem um folgende Themen:

1. Urheberrecht
Falls Sie der Meinung sind, dass Ihre geistigen Eigentumsrechte durch den Einsatz von KI verletzt wurden, sei es durch unerlaubte Nutzung von Software oder Algorithmen, dem Training der KI, dem Prompten mit Bildern, Texten, Filmen, Schlagwortsammlungen oder sonstigen urheberrechtlich geschützten Werken bis hin zu Datenbanken, könnten Sie als Kläger agieren. In der Fachliteratur wird derzeit Text- und Data-Mining nach § 44b UrhG als mögliche Ausnahme diskutiert. Handlungsempfehlung: Aus meiner Sicht sollten sofort Sperrerklärungen abgegeben und Auskünfte gefordert werden. Fälle, bei denen das Ergebnis der KI nur unter Nutzung der jeweiligen Inhalte trainiert worden sein kann, sollten unverzüglich gerichtlich durchgesetzt werden. Inzwischen hat das Landgericht Hamburg zum Text- und Data-Mining nach dem UrhG entschieden, dass die Nutzung von Bildmaterial für KI-Training durch LAION e.V. rechtmäßig war, Az.: 310 O 227/23. Die Entscheidung des LG Hamburg wird in der Berufung überprüft.

2. Persönlichkeitsrecht
Wenn KI-Systeme in einer Weise eingesetzt werden, die Ihre persönlichen Daten ohne angemessene Zustimmung verarbeiten oder Ihre Privatsphäre beeinträchtigen, könnte dies eine Verletzung Ihres Persönlichkeitsrechts darstellen. Anerkannt ist beispielsweise das „Recht an der eigenen Stimme“. Eine KI, die Ergebnisse „im Stil“ von XYZ liefert oder liefern soll, gehört auf den Prüfstand!

3. Vertragsrecht
Falls Verträge in Bezug auf KI-Technologien verletzt wurden, sei es durch Nichterfüllung von Verpflichtungen oder Verletzung vertraglicher Vereinbarungen, könnten Sie als Kläger Schadensersatzansprüche geltend machen. Bestehende Verträge, bei denen die neuen Möglichkeiten im Vertragsverhältnis genutzt werden, sollten dringend geprüft und mittels einer Zusatzvereinbarung ergänzt werden. Zu fragen ist unter anderem: Gibt es höchstpersönliche Pflichten im Vertrag? Gibt es einen Pflichtenkatalog? Sind die Kosten geklärt? Sind die Risiken angemessen verteilt? Ist die Haftung geregelt? Oder soll KI sogar bei der Vertragserfüllung genutzt werden? Zu all diesen Fragen sind eigene Regelungen sinnvoll. Auch in Lizenzverträgen dürfte ein eigener Passus zu KI künftig eine wichtige Rolle spielen.

4. Datenschutzrecht
Im Falle von Datenschutzverletzungen durch den Einsatz von KI-Systemen, insbesondere wenn die zahlreichen Pflichten der Datenschutzgrundverordnung (DSGVO) oder des BDSG nicht eingehalten werden, könnten unter anderem Klagen wegen Verstößen gegen das Datenschutzrecht in Betracht gezogen werden. Zunächst ist hier die Durchsetzung von Auskunftsansprüchen sinnvoll.

5. Arbeitsrecht
(Beschluss des Arbeitsgerichts zur Mitbestimmung bei KI) Nach einem Beschluss des ArbG Hamburgs vom 16. Januar, Az. 24 BVGa 1/24, soll der Betriebsrat in dem dortigen Einzelfall nicht über den Einsatz von KI im Konzern mitbestimmen dürfen. Der Konzern hatte Richtlinien zum Umgang mit KI erlassen. Der Betriebsrat wollte mitbestimmen. Er hatte unter anderem verlangt, dass eine KI-Rahmenvereinbarung geschlossen werde. Das Arbeitsgericht meinte, die Vorgaben zur Nutzung von ChatGPT und vergleichbarer Werkzeuge würden in diesem Fall nicht „unter das mitbestimmungsfreie Arbeitsverhalten“ fallen. Es weist darauf hin, dass Browser die Nutzung regelmäßig aufzeichnen. Hierzu gebe es aber bereits eine Konzernbetriebsvereinbarung. Die Folge: Der Betriebsrat habe sein Mitbestimmungsrecht bereits ausgeübt. Das Urteil ist schon aufgrund seines differenzierten Sachverhalts kaum auf Dritte übertragbar, ist jedoch als Fingerzeig für künftige Maßnahmen zu verstehen. Es darf nicht fehlinterpretiert werden.

6. Entscheidung zu Kanzler-Deepfakes mittels KI des LG Berlin
Deepfakes unter Einsatz von KI-Technologien sind bereits an der Tagesordnung. Selbst das Bundeskriminalamt warnt. Eine erste Entscheidung des LG Berlin soll bereits vorliegen. Es geht um eine täuschend echte, aber mittels KI generierte Aussage des Ex-Bundeskanzlers Olaf Scholz zu einem AfD-Verbot, die das Zentrum für Politische Schönheit im November 2023 verbreitet hatte. Rechtsmittel sind angekündigt.

7. Die KI-VO (AI Act) ist in Kraft
Hochrisiko-KI, Transparenzpflichten und viele neue Zuständigkeiten. Das sind nur einige Themen, die die KI-VO regelt. Vieles regelt sie allerdings auch nicht. Es gibt Übergangsfristen, unter anderem für Transparenzpflichten ab dem 2. 8. 2025 und dem 2. 8. 2026, und viele neue Zuständigkeiten, unter anderem ein KI-Büro der EU und einen EU-Beirat. Die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) führt dazu aus (https://www.bfdi.bund.de/DE/Fachthemen/Inhalte/Technik/KI-Verordnung.html): „Insgesamt sind die Aufsichtsstrukturen für KI sehr komplex. Insbesondere in Deutschland führt das föderale System zu einer besonders hohen Anzahl an Behörden, die in die KI-Aufsicht involviert sein werden. Damit es für Interessenträger dennoch nur einen zentralen Kontaktpunkt bei Anliegen im Kontext der KI-VO gibt, soll jeder Mitgliedstaat einen sogenannten Single-Point-of-Contact benennen. Dieser ist für Bürgerinnen und Bürger besonders relevantim Hinblick auf das Recht auf Einreichung einer Beschwerde …“

8. Presserat
Auch der Presserat hat bereits einige Entscheidungen zur Künstlichen Intelligenz gefällt, unter anderem war in einem Fall die Fotoverfremdung mit KI nicht klar genug offengelegt. Ein mittels KI erfundenes Interview stellte eine Lesertäuschung dar. Klargestellt wurde auch: Die Verwendung von Künstlicher Intelligenz muss gekennzeichnet werden. Entschieden wurde auch der Fall, wenn KI-generierte Texte mit echt klingendem Verfassernamen und Porträtbild versehen sind.

9. BGH zur Rolle von KI bei Patentanmeldungen (Az. X ZB 5/22)
Kann eine KI als Erfinderin eines Patents anerkannt werden? Nein, meint der BGH, Az.: X ZB 5/22: Erfinder im Sinne von § 37 Abs. 1 des Patentgesetzes (PatG) können ausschließlich natürliche Personen sein. Gegenstand des Verfahrens war das KI-System DABUS (Device for the Autonomous Bootstrapping of Unified Sentience), das einen innovativen Lebensmittel- oder Getränkebehälter mit fraktalem Profil sowie ein Blinklicht für Notfälle generierte. Das Bundespatentgericht (BPatG) lehnte dies ab, akzeptierte jedoch schließlich die Formulierung: „Stephen L. Thaler, PhD, der die künstliche Intelligenz DABUS dazu veranlasst hat, die Erfindung zu generieren.“
Die Leitsätze des BGH:
a) Erfinder im Sinne von § 37 Abs. 1 PatG kann nur eine natürliche Person sein. Ein maschinelles System kann auch dann nicht als Erfinder benannt werden, wenn es über Funktionen Künstlicher Intelligenz verfügt.
b) Die Benennung einer natürlichen Person als Erfinder ist auch dann möglich und erforderlich, wenn zum Auffinden der beanspruchten technischen Lehre ein System mit Künstlicher Intelligenz eingesetzt wurde.
c) Die Benennung einer natürlichen Person als Erfinder im dafür vorgesehenen amtlichen Formular genügt nicht den Anforderungen aus § 37 Abs. 1 PatG, wenn zugleich beantragt wird, die Beschreibung um den Hinweis zu ergänzen, die Erfindung sei durch eine Künstliche Intelligenz generiert oder geschaffen worden.
d) Die Ergänzung einer hinreichend deutlichen Erfinderbenennung um die Angabe, der Erfinder habe eine Künstliche Intelligenz zur Generierung der Erfindung veranlasst, ist rechtlich unerheblich und rechtfertigt nicht die Zurückweisung der Anmeldung nach § 42 Abs 3 PatG.

10. GEMA entwickelt KI-Lizenz-Modell
Eine sinnvolle Lösung für den Umgang mit dem Problem Urheberrecht und Trainingsdaten wäre, die Verwertungsgesellschaften einzubinden. Das würde auch zu dem bestehenden System passen. Die GEMA hat ein 2-Säulen-Modell vorgelegt.

11. TV FFS – KI-Tarifvertrag für Schauspieler
Für die Film und Fernsehbranche regelt der TV FFS (Tarifvertrag der Film- und Fernsehschaffenden) wichtige Fragen. Mit einer Zusatzvereinbarung liegt jetzt der erste KI-Tarifvertrag vor. Die Produktionsallianz fasst die Themen, um die es geht, wie folgt zusammen: Wahrung der Persönlichkeitsrechte von Schauspielerinnen und Schauspielern/Erfordernis der Einwilligung für digitale Nachbildungen/Vorgaben für die Weiterverwendung digitaler Nachbildungen in anderweitigen Produktionen Entgelt für Einsatz „digitaler Doppelgänger“ Benennung typischer KI-Einsatzfälle Benennung praxisrelevanter Ausnahmeregelungen Rechtssicherheit für Produzentinnen und Produzenten unter anderem in der Postproduktionsphase.

Fazit: Es besteht Handlungsbedarf! Wo sind die Kläger, die Urheberrechte schützen wollen? Verträge gehören auf den Prüfstand! Wie wird KI-Nutzung transparent? Bis der Gesetzgeber reagiert, kann und sollte der Umgang mit KI so gut es geht rechtlich abgesichert werden, unter anderem durch Tarifverträge, Betriebsvereinbarungen, Ethik-Richtlinien etc.

Transparenzhinweis: Dieser Text wurde mit folgendem Prompt von ChatGPT verfasst und danach von RA Tobias Sommer LL.M. überarbeitet: „Schreibe mir einen Text, mit dem Kläger gesucht werden, um auf der Grundlage des deutschen Rechts, sei es Urheberrecht, Persönlichkeitsrecht, Vertragsrecht, Datenschutzrecht oder mit KI generierten Deepfakes erfolgreich gegen Firmen vorzugehen, die KI entwickeln, einsetzen oder sonst verwenden und dabei Rechte verletzen.“

Ausgewählte Entscheidungen des Presserats zu KI
1. Überschrift suggeriert fälschlich, Rettungswagen hätte Unfall verursacht. Unter dem Artikel hatte die Redaktion darauf hingewiesen, dass der Text auf einer Behördeninformation basiere und mit KI erstellt worden sei. Az. 0943/24/2-BA-V
2. Fotoverfremdung mit KI nicht klar genug offengelegt. Az. 0936/23/1-E-BA
3. Zur Überschrift: „Wer sich mit KI auskennt, braucht kein Germanistikstudium“. Az. 0101/24/2-BA
4. KI-generierte Texte mit echt klingendem Verfassernamen und Porträtbild versehen. Az. 0770/23/1-BA
5. Lesertäuschung mit erfundenem Schumacher-Interview. Az. 0312/23/1-BA
6. Verwendung von Künstlicher Intelligenz bei einer Koch- und Backzeitschrift „99 Pasta-Rezepte zum Nachkochen“ muss gekennzeichnet werden. Az. 0014/25/1-BA.

Ausgewählte Fristen aus der KI- Verordnung der EU

Seit Februar 2025: Sicherstellung von KI-Kompetenz sowie Verbot bestimmter Praktiken wie unter anderem Emotionserkennung am Arbeitsplatz und in Schulen, Social Scoring, Manipulation menschlichen Verhaltens, Ausnutzen menschlicher Schwachstellen, ungezieltes Gesichtsbilder-Scraping im Internet sowie sogenannte Closed-Circuit-Television-Aufnahmen mit dem Ziel der strategischen Erstellung einer Gesichtserkennungsdatenbank.

Seit August 2025: Zahlreiche weitere Regelungen für Hochrisikosysteme, aber auch für sogenannte allgemeine KI-Modelle (vergleichbar mit GPT-4), Einführung von Sanktionen, Forderung von Verhaltenskodizes und Transparenzpflicht für ausgewählte KISysteme.

Ab August 2026: allgemeine Anwendbarkeit der KI-VO, das heißt, alle weiteren Regelungen des Gesetzes treten in Kraft, die nicht gesonderten Fristen unterliegen.

Ab August 2027: Einstufung von Hochrisiko-KI-Systemen.

Rechtsanwalt Tobias Sommer LL.M. ist seit 2003 als Anwalt im Wirtschaftsrecht mit Schwerpunkt im Bereich des Immaterialgüterrechts tätig. Er hat zahlreiche Fachtexte veröffentlicht und hat praktische Erfahrungen als Journalist in den Bereichen Print und Fernsehen. Neben seiner anwaltlichen Tätigkeit ist er als Dozent zu Themen wie Presserecht, Urheberrecht, Vertragsrecht, KI und Recht tätig, unter anderem an der Berliner Journalistenschule und für den DJV.