Künstliche Intelligenz

Eine KI kann nur überzeugende Ergebnisse liefern, wenn sie zuvor mit Trainingsdaten „gefüttert“ wurde. Soweit hier urheberrechtlich geschützte Werke verwendet wurden, bedarf es nach deutschem Recht grundsätzlich der Zustimmung der Rechteinhaber, da zumindest eine Vervielfältigung stattgefunden hat. Im Rahmen der Entwicklungen der Foundation Modelle wie ChatGPT & Co. hat keine Lizenzierung stattgefunden. Es stellt sich daher die Frage, ob im deutschen Urheberrecht eine Schrankenregelung existiert, die eine Vervielfältigung zu Trainingszwecken erlaubt. In Betracht kommen hier die „Text and Data Mining“-Regelungen § 44b und § 60d UrhG.

§ 44b UrhG erlaubt unter bestimmten Voraussetzungen Text and Data Mining für kommerzielle Zwecke. § 44b UrhG geht auf Art. 4 der DSM-Richtlinie aus dem Jahr 2019 zurück. Die DSM-Richtlinie ist zu einer Zeit verabschiedet worden, als Foundation Models der Öffentlichkeit noch unbekannt waren. Unklar ist daher, ob das Trainieren von KI überhaupt unter Text and Data Mining im Sinne der Vorschrift fällt. Text und Data Mining ist die automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken, um daraus Informationen insbesondere über Muster, Trends und Korrelationen zu gewinnen. In den Erwägungsgründen der DSM-Richtlinie wird das Trainieren von KI nicht ausdrücklich erwähnt, allerdings das Interesse von „privaten und öffentlichen Einrichtungen, große Datenmengen in verschiedenen Lebensbereichen und zu unterschiedlichen Zwecken zu analysieren, auch für staatliche Dienste, komplexe unternehmerische Entscheidungen und die Entwicklung neuer Anwendungen und Technologien“. Auf der anderen Seite hat der Richtliniengesetzgeber sicher nicht die immensen kommerziellen Auswirkungen, die das KI-Training hat, im Blick gehabt. Dennoch ist nicht auszuschließen, dass das Trainieren einer KI von einem Gericht als zulässiges Text und Data Mining im Sinne der Vorschrift angesehen werden könnte. Voraussetzung für eine zulässige Vervielfältigung ist allerdings, dass ein rechtmäßiger Zugang zu den Werken besteht. Die Werke müssen also im Internet frei zugänglich oder der Zugang hinter Bezahlschranken muss erworben worden sein. Zudem sind die Vervielfältigungen zu löschen, wenn sie nicht mehr erforderlich sind. Keinesfalls wäre es aufgrund der Vorschrift also zulässig, eine Datenbank mit urheberrechtlich geschützten Werken anzulegen, auf die eine KI permanent Zugriff hat. Die Rechteinhaber können sich zudem gegen die Verwendung Ihrer Werke unter § 44b UrhG wehren, indem sie einen Nutzungsvorbehalt erklären (siehe Frage 3 und 4).
§ 60d UrhG regelt Text und Data Mining für Forschungszwecke und wurde im Rahmen der Umsetzung der DSM-Richtlinie 2021 neu gefasst. Text und Data Mining für Forschungszwecke im Sinne des § 60d UrhG setzt voraus, dass die Forschungsorganisationen nicht-kommerzielle Zwecke verfolgen, sämtliche Gewinne in die wissenschaftliche Forschung investieren und im Rahmen eines staatlich anerkannten Auftrags im öffentlichen Interesse tätig sind. Die Zusammenarbeit mit einem privaten Unternehmen schließt die Privilegierung aus, § 60d Abs. 2 S.3 UrhG. Kommerzielle KI-Systeme können sich daher nicht auf diese Schrankenregelung berufen.

Text und Data Mining gemäß § 60d UrhG kann nicht verhindert werden. Rechteinhaber können aber in Bezug auf kommerzielles Text und Data Mining gemäß § 44b Abs. 1 und 2 UrhG ihr Opt-Out erklären. Nach der amtlichen Gesetzesbegründung muss der Nutzungsvorbehalt ausdrücklich erklärt werden und in einer Weise erfolgen, die den automatisierten Abläufen beim Text und Data Mining angemessen ist. Im Fall von online zugänglichen Werken ist der Vorbehalt deshalb gemäß § 44b Abs. 3 S. 2 UrhG nur dann wirksam, wenn er in maschinenlesbarer Form erfolgt. Er kann auch im Impressum oder in den AGB enthalten sein, sofern er dort maschinenlesbar ist. Sinn und Zweck der Regelung ist es zum einen, Rechtsinhabern die Möglichkeit zu eröffnen, die Nutzung auf Basis der gesetzlichen Erlaubnis zu untersagen. Zum anderen bezweckt die Regelung, bei online zugänglichen Inhalten sicherzustellen, dass automatisierte Abläufe, die typisches Kriterium des TDM sind, tatsächlich auch automatisiert durchgeführt werden können (BT-Drucks. 19/27426, S. 89). Möglich ist daher, auf Webseiten folgende Formulierung anzubringen: „Wir behalten uns die Nutzung sämtlicher Inhalte dieser Webseite unter der URL … und sämtlicher Unterseiten und Unterverzeichnisse für Text und Data Mining i.S.v. § 44b UrhG vor“.

Noch sicherer ist es aber, den Nutzungsvorbehalt per Web-Protokoll zu implementieren. Der europäische Verlegerverband FEP stellt mit dem TDM Reservation Protocol technische Definitionen bereit, wie ein solcher Nutzungsvorbehalt für digital zugängliche Inhalte (auf Webseiten, für EPUBs, PDFs u.ä.) erklärt werden kann, siehe TDM Reservation Protocol (TDMRep) (w3c.github.io).

Die Notwendigkeit, einen Nutzungsvorbehalt in maschinenlesbarer Form anzubringen, gilt unseres Erachtens nicht für E-Books hinter einer Bezahlschranke, sondern für Werke, die online öffentlich ohne Einschränkung zugänglich sind, d.h. in erster Linie Webseiten, Open Access-Publikationen oder z.B. Cover bzw. Leseproben („content made publicly available online“). Im Fall von rechtmäßig zugänglichen Printbüchern oder E-Books muss der Nutzungsvorbehalt daher nicht maschinenlesbar sein, sofern sie nicht offen im Netz stehen. Bei E-Books finden sich bereits Einschränkungen/Vorbehalte in den Lizenzbedingungen, bei Printbüchern auf der Impressums-Seite. Aus unserer Sicht ist dies ausreichend. Möchte ein Verlag jedoch auf Nummer Sicher gehen, so sollte er zukünftig noch folgende Formulierung aufnehmen: „Die automatisierte Analyse des Werkes, um daraus Informationen insbesondere über Muster, Trends und Korrelationen gemäß § 44b UrhG („Text und Data Mining“) zu gewinnen, ist untersagt“. 

Seit Juli 2024 kann das maschinenlesbare TDM Reservation Protocol (siehe Punkt 1.3) allerdings auch in die Metadaten von EPUB oder PDF implementiert werden, siehe https://www.w3.org/2022/tdmrep/. , damit wäre dann sogar die Maschinenlesbarkeit des Nutzungsvorbehalts im Falle von digitalen Werken hinter einer Bezahlschranke erfüllt sowie die Möglichkeit gegeben, mehrere Werke auf einer Website unterschiedlich zu behandeln.

Es gibt vermehrt Hinweise, dass die großen Foundation Modelle wie ChatGPT Webseiten gecrawlt haben, auf denen urheberrechtlich geschützte Werke illegal veröffentlicht wurden, und/oder dass das Training bereits vor Inkrafttreten der genannten Regelungen erfolgte. In diesen Fällen greift keine der oben zitierten Schranken und die Vervielfältigungen durch die Unternehmen zum Training der KI waren unzulässig. Verlagen und Urhebern stehen daher Ansprüche auf Unterlassung und Schadensersatz (§ 97 UrhG) sowie auf Auskunft (§ 101 UrhG) zu. In der rechtlichen Durchsetzbarkeit stellen sich jedoch mehrere Probleme: Bisher legen die Unternehmen nicht offen, mit welchen Daten die Modelle trainiert wurden, so dass eine Rechtsverletzung im Regelfall nicht bewiesen werden kann. Zudem fanden die Vervielfältigungen im Ausland statt. Hier besteht ein größeres Prozessrisiko, zumal in USA noch nicht geklärt wurde, ob die Nutzung von urheberrechtlich geschützten Werken unter Fair Use fällt. Es gibt jedoch bereits zahlreiche Forderungen (FEP Stellungnahme; Offener Brief der Authors Guild; IU Stellungnahme) an die KI-Unternehmen, Transparenz herzustellen, zudem bereits erste Rechtsstreitigkeiten (Sammelklage Illustratoren, Sammelklage Autoren). Die weitere Entwicklung muss beobachtet werden.

 Auch hier ist die Rechtslage noch unklar. Aufgrund der immensen kommerziellen Auswirkungen spricht viel dafür, dass es sich bei dem Recht zum Training von KIs um eine neue, frühestens 2023 oder 2024 bekannt gewordene Nutzungsart handelt, die nicht von den bisherigen ausdrücklich im Verlagsvertrag genannten Nutzungsarten abgedeckt ist. Viele Verlage haben sich zwar das Recht an bei Vertragsschluss noch unbekannten Nutzungsarten einräumen lassen; die Handhabung dieses Rechts ist aber aufwändig und mit Informations- und Beteiligungspflichten gegenüber den Werkberechtigten verbunden. Ohnehin scheint fraglich, ob eine individuelle Lizenzierung durch einzelne Verlage an Unternehmen wie Microsoft, Google & Co. überhaupt Aussicht auf Erfolg hätte. Wenn eine solche Lizenzierung überhaupt von Urheber*innen und Verlagen gewünscht ist, könnte eine freiwillige kollektive weltweite Lösung über Verwertungsgesellschaften möglicherweise eine handhabbare Alternative sein.

Texte, die in Zukunft unter einer CC-BY-Lizenz veröffentlicht wurden, können zum Training einer KI genutzt werden. Dies gilt jedenfalls ab dem Zeitpunkt, ab dem KI-Training als bekannte Nutzungsart gilt. Auf die Frage, ob § 44b UrhG anwendbar ist, kommt es dann nicht an. Anders sieht es bei Creative Commons-Lizenzen aus, die mit den Einschränkungen NC (keine kommerzielle Nutzung) und ND (keine Abwandlung) versehen sind oder werden.

Die meisten Verlagsverträge enthalten bereits Formulierungen wie „der Autor versichert, dass durch sein Werk“ oder „Gegenstand dieses Vertrages ist das Werk des Autors unter dem Titel…“. Damit erklärt der Autor bereits, dass er dem Verlag Nutzungsrechte an einem eigenen, von ihm selbst geschaffenen Werk einräumt. Übersendet er dem Verlag stattdessen ein durch eine KI geschriebenes Manuskript, so liegt eine Vertragsverletzung vor. Der Verlag hat – wie beim Plagiat - das Recht auf Rücktritt und Schadensersatz. Eine eigene Klausel, um sich als Verlag vor KI-Erzeugnissen zu schützen, ist daher nicht zwingend erforderlich. Zur Klarstellung wäre aber noch die folgende Ergänzung möglich: „Der Autor versichert, das Werk persönlich erstellt zu haben“.

Ja, wenn die Rechteklauseln der Verlags- und Lizenzverträge dies zulassen. Wer das „Recht der Übersetzung in andere Sprachen“ bzw. „das Recht zur Aufnahme des Werkes als Hörbuch“ ohne Einschränkung eingeräumt bekommen hat, kann grundsätzlich auch eine Maschine die Übersetzung anfertigen bzw. den Text einsprechen lassen. Allerdings hat der Verlag grundsätzlich Beeinträchtigungen des Werkes zu unterlassen, insbesondere darf das Urheberpersönlichkeitsrecht nicht verletzt werden. Dies könnte z.B. der Fall sein, wenn die Qualität des KI-Produkts schlecht ist. Im Falle einer Übersetzung ist zudem zu beachten, dass diese dann selbst nicht geschützt wäre. Sollte also nach Ablauf der Lizenzdauer ein anderer Verlag das Originalwerk lizenzieren, so kann dieser die KI-Übersetzung ungefragt übernehmen.

Die Lizenz CC-BY erlaubt generell die Vervielfältigung und Bearbeitung von Texten. Wer den bearbeiteten Text veröffentlicht, muss lediglich angeben, dass Änderungen vorgenommen worden sind und den ursprünglichen Urheber angeben. Es ist damit auch zulässig, dass ein solcher Text mit Hilfe einer KI in eine andere Sprache übersetzt und dann veröffentlicht wird. Dabei kann allerdings der unrichtige Eindruck entstehen, dass die Übersetzung von einem Menschen, z.B. demjenigen der die Veröffentlichung vorgenommen hat, angefertigt wurde. Es ist deshalb zu empfehlen, die Übersetzung als „KI-generiert“ zu kennzeichnen.  

Dies hängt vom Einzelfall bzw. den Allgemeinen Geschäftsbedingungen der einzelnen Produkte ab. Oft werden die Fragen selbst mangels Schöpfungshöhe nicht urheberrechtlich geschützt sein. Anders ist dies, wenn ganze Texte eingegeben werden, um diese z.B. sprachlich überprüfen oder – wie im Falle von DeepL – übersetzen zu lassen. DeepL erklärt in seinen AGB z.B., dass die Nutzungsrechte an den eingegebenen Inhalten zwar beim Kunden verbleiben, der Kunde DeepL aber ein nicht-exklusives weltweites Recht einräumt, die Inhalte zur Erbringung der Leistung an den Kunden zu verwenden; dies beinhaltet auch das Recht auf vorübergehende Speicherung, Bearbeitung und Übersetzung sowie Übertragung dieser Rechte an Sublizenznehmer. In der freien Version kann auch eine dauerhafte Speicherung stattfinden.  

Gesetzliche Kennzeichnungspflichten existieren in diesem Bereich bisher nicht. In besonderen Fällen könnte jedoch eine Kennzeichnungspflicht nach dem Gesetz zur Bekämpfung unlauteren Wettbewerbs (UWG) bestehen. Gemäß § 5a UWG liegt unlauteres Verhalten vor, wenn ein Verbraucher irregeführt wird, indem ihm eine wesentliche Information vorenthalten wird, die er benötigt, um eine informierte geschäftliche Entscheidung zu treffen. Bisher hält die Rechtsprechung es für entscheidend, ob eine Aufklärungspflicht besteht und der Verbraucher durch das Unterbleiben der Aufklärung getäuscht wird. Da es bisher keine gesetzliche Pflicht zur Aufklärung über den Einsatz von generativer KI gibt, wird es hier wohl nur in sehr besonderen Einzelfällen zu einem Verstoß kommen.  

Die KI-Verordnung der Europäischen Union (AI Act) enthält zwar einige Kennzeichnungspflichten, allerdings sind diese für die Buchbranche in vielen Fällen nicht relevant. Verpflichtet werden zunächst die Anbieter von KI-Systemen. Diese müssen grundsätzlich sicherstellen, dass die Ergebnisse des KI-Systems, d.h. der Output, in einem maschinenlesbaren Format als künstlich erzeugt gekennzeichnet werden.   

Im Falle von künstlich erzeugten Texten, mit denen die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert wird, sind auch die Nutzer von KI-Systemen zur Kennzeichnung verpflichtet. Dies gilt jedoch dann nicht, wenn eine menschliche Überprüfung des Inhalts stattgefunden hat bzw. eine Redaktion die Verantwortung übernimmt.  

Im Falle von Bildern sowie Audio und Video müssen sogenannte Deepfakes von Nutzern des KI-Systems gekennzeichnet werden. Ein Deepfake ist ein durch KI erzeugter und manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen ähnelt und von Menschen fälschlicherweise als echt oder wahrheitsgemäß angesehen werden könnte. Ist ein solcher Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen Werks, so kann auf den künstlichen Inhalt auf eine Art und Weise hingewiesen werden, die den Genuss des Gesamtwerkes nicht beeinträchtigt.