Der Deutsche Fotorat hat am 20. April 2023 das nachfolgende Positionspapier zu KI-Bildgeneratoren veröffentlicht. Es wurde von der Arbeitsgruppe Technologischer Fortschritt im Deutschen Fotorat von Thomas Gerwers (DGPh), Alexandra Lechner (BFF) und Jürgen Scriba und Boris Eldagsen (DFA), vorbereitet und entworfen und nach mehrfachen Diskussionen in der Arbeitsgruppe, bei der auch andere Mitgliedsverbände (PIC, FREELENS, VG Bild-Kunst) beteiligt waren, in der Mitgliederversammlung am 19. April 2023 final erstellt und verabschiedet.
Positionsbestimmung zu KI-Bildgeneratoren
Verfahren zur Bearbeitung und Generierung von Bildern mit Hilfe Künstlicher Intelligenz (KI) werden in allen Bereichen der Fotografie Arbeitsprozesse grundlegend und disruptiv beeinflussen. Der Deutsche Fotorat steht der Weiterentwicklung bildgebender Techniken grundsätzlich offen gegenüber. Generative KI eröffnet neue Möglichkeiten zur Erweiterung des kreativen Spektrums. Allerdings wird sie auch gravierende ökonomische Umwälzungen in der Kreativbranche mit sich bringen und kann eine ernste Gefahr für den demokratischen Gesellschaftsdiskurs bedeuten.
Der Fotorat fordert alle Institutionen auf, die an der Erstellung und Verbreitung von nachrichtlich-dokumentarischen Inhalten beteiligt sind, ethische Standards für den Umgang mit ihren Quellen zu erarbeiten. Diese Regeln und Arbeitsweisen müssen sicherstellen, dass authentisches Material verifiziert und als solches erkennbar und überprüfbar weitergegeben wird. In klarer Abgrenzung sollten generierte Bilder nicht als Fotografien bezeichnet werden, auch wenn ihr Fotorealismus ein immer höheres Niveau erreicht.
Ohne den kreativen Schöpfungsakt von Menschen durch Einbeziehung neuer Bildwerke und die Formulierung origineller Prompts verleiten KI-Bildgeneratoren zur Reproduktion und Variation des Vorhandenen, da sie ihre Bilder stets im Rückgriff auf bereits existierende Inhalte generieren. Zentrale rechtliche Fragen beim Arbeiten mit KI-Bildgeneratoren sind derzeit jedoch ungeklärt. So ist strittig, unter welchen Umständen FotografInnen beim Einsatz von KI-Werkzeugen Urheberrecht an ihren Werken erlangen können und welche Rechte den Nutzern dieser Werke zustehen.
Ohne Genehmigung und Vergütung nutzen KI-Systeme geistiges Eigentum von FotografInnen als Trainingsmaterial oder verschleiern die Herkunft von Daten. Der Fotorat fordert mehr Geschwindigkeit in der juristischen Klärung, um Rechtssicherheit in der Anwendung von KI-Werkzeugen und eine Grundlage für die Weiterentwicklung der Geschäftsmodelle von Kreativen zu schaffen.
KI-Bilder sind keine Fotografien
Dem Deutschen Fotorat ist wichtig, zwischen kamerabasierten Fotografien und synthetisch erzeugten KI-Bildern zu unterscheiden, denn Fotografien entstehen ausschließlich durch die Abbildung von Licht in einer Kamera.
KI-generierte Bilder sind daher keine Fotografien und sollten nicht so bezeichnet werden, auch wenn sie durch ihre foto-realistische Darstellung diesen Eindruck vermitteln. Weil die qualitativen Grenzen verschwinden, ist eine klare Differenzierung zwischen Fotografien einerseits und generierten Bildern andererseits für deren Einordnung und Wahrnehmung von entscheidender Bedeutung und stärkt die Medienkompetenz der Betrachter.
Dies berührt auch Aspekte der Fotopädagogik, deren Ziel eine „Schule des Sehens“ sein muss, die schon Kinder und Jugendliche dazu anleitet, auch Bilder kritisch zu hinterfragen. Hinsichtlich einer demokratischen Meinungsbildung muss dringend das Bewusstsein geschärft werden, wie wichtig es ist, mehrere Quellen oder Augenzeugen zu konsultieren.
Folgen für Urheber
Die ungefragte Ausbeutung ihres urheberrechtlich geschützten Bildmaterials mittels Datamining für allgemein zugängliche Bildgeneratoren bedeutet für FotografInnen einen existenzgefährdenden wirtschaftlichen Verlust.
Denn die derzeitige Arbeitsweise von KI-Systemen steht im Widerspruch zum grundlegenden Prinzip des Urheberrechts, dass UrheberInnen selbst und allein die Früchte aus der Verwertung ihrer Werke ziehen und eine angemessene Vergütung erhalten.
Der Deutsche Fotorat wünscht schnellstmögliche Rechtssicherheit in Bezug auf die Urheber- und Verwertungsrechte der SchöpferInnen von Fotografien, die als Trainingsdaten verwendet werden. Es muss nachvollziehbar sein, auf welcher Basis ein KI-Bild generiert wurde. Werden dafür Bildwerke von FotografInnen verarbeitet, muss es auch Mechanismen zur fairen Vergütung für SchöpferInnen dieser Bildwerke geben.
Transparenz beim KI-Trainingsmaterial
UrheberInnen müssen in jedem Fall das Verfügungsrecht über die Verwendung ihrer Werke ausüben und der Nutzung ihrer Bilder durch KI-Systeme widersprechen können. Hierzu haben FotografInnen derzeit nur sehr beschränkte Möglichkeiten. Daher fordert der Fotorat einfache Möglichkeiten zum Opt-out oder Opt-in. So können FotografInnen per Opt-out ihre Werke grundsätzlich von der Nutzung als KI-Trainingsmaterial ausnehmen oder per Opt-in dafür explizit freigeben, sobald praktikable Vergütungsmechanismen für diese Nutzung etabliert sind. Erste Ansätze sind die „Do not train“-Zertifikate der Content Authenticity Initiative (CAI). Der Deutsche Fotorat ist Mitglied der CAI geworden.
Insbesondere fordert der Fotorat vom Gesetzgeber umgehend eine Definition, wie der gesetzlich vorgesehene Vorbehalt gegen die Verwendung von Bildmaterial zum Zweck des sogenannten Data Minings in „maschinenlesbarer Form“ konkret vorgenommen werden kann. Hierzu strebt der Fotorat eine Regelung an, bei der die Einbettung eines solchen Hinweises in die EXIF/IPTC-Daten einer Bilddatei ausreichend ist.
Gleichzeitig schließt sich der Fotorat der Forderung an, dass solche Metadaten nicht von den zugehörigen Bilddaten getrennt oder gelöscht werden dürfen, wie es heute oft beim Hochladen von Bildern auf Plattformen oder bei der Nutzung von Bildern geschieht.
Der Deutsche Fotorat unterstützt den Vorschlag, kurzfristig die Gemeinnützigkeit der in Deutschland registrierten Datamining-Organisation Large-scale Artificial Intelligence Open Network (LAION) zu überprüfen, die im großen Umfang Werke ohne Zustimmung und angemessene Honorierung der UrheberInnen den Anbietern von KI-Systemen zur kommerziellen Nutzung als Trainingsmaterial zur Verfügung stellt.
Authentizität sichern
Für die Glaubwürdigkeit von Bildern in journalistischen Medien sind authentische Fotografien unverzichtbar. Eine Unterscheidung von generierten und kamerabasierten Bildern ist schon jetzt selbst für Fachleute schwierig bis unmöglich. Der demokratische Diskurs wird durch die Manipulation mittels überzeugender Bildfälschungen gefährdet, genauso aber auch durch den zukünftig gerechtfertigten generellen Zweifel an der Authentizität von Bildern.
FotografInnen müssen Verantwortung für das übernehmen, was sie fotografieren, wie sie es fotografieren und bearbeiten, und an wen sie ihre Bilder weitergeben.
Der Fotorat unterstützt daher die Forderung nach der Entwicklung international einheitlicher und durchgängig offener technischer Standards zur Verifikation der Bildentstehung in Kameras und zur Protokollierung anschließender Bearbeitungsschritte.
Zur Sicherstellung ihrer Glaubwürdigkeit fordert der Fotorat insbesondere BildnutzerInnen in den Medien dazu auf, Bildmaterial gut sichtbar ähnlich dem Urhebernachweis direkt am Bild entsprechend seiner Herkunft zu kennzeichnen.
Urheberrecht an KI-Bildern
Das Urheberrecht ist ein Schutzrecht für menschlich-geistiges Schaffen. Der Fotorat regt an, die Anerkennung urheberrechtlichen Schutzes KI-generierter Bilder anhand des bestehenden Rechts zu prüfen. Es müssen Lösungen erarbeitet werden, wie die Grenze zu ziehen ist zwischen urheberrechtlich schutzfähiger menschlicher, rechner-assistierter Gestaltung und mutmaßlich rein Rechner-generiertem Maschinenerzeugnis, an dem nach verbreiteter Rechtsauffassung kein Urheberrecht erworben werden kann. Angesichts des disruptiven Charakters von KI-Werkzeugen ist auch zu hinterfragen, ob die klassischen Instrumente zur Beurteilung des Urheberrechts angepasst werden müssen.
Wir benötigen dringend und schnell Rechtssicherheit sowohl für die UrheberInnen von KI-generierten Bildern als auch für NutzerInnen und AuftraggeberInnen solcher Werke.
Fazit
Der Fotorat versteht KI-Systeme als zusätzliche, neue Möglichkeit zur Bilderstellung, deren Erzeugnisse jedoch klar von Fotografien abzugrenzen sind. Er drängt auf schnellstmögliche Regelungen, die verhindern, dass KI-Systeme zum Nachteil von UrheberInnen kamerabasierter Lichtbilder trainiert und angewandt werden.
Die Auswirkungen der neuen Systeme auf unsere Gesellschaft zeichnen sich bereits deutlich ab. Durch die Kombination von synthetischen Bildern, die in fast beliebiger Menge verbreitet werden können, mit KI-generierten Texten und Tondokumenten lässt sich ein komplexes Geflecht von scheinbar in sich stimmigen Pseudo-Realitäten erschaffen.
Insbesondere vor dem Hintergrund der auf wirtschaftliche Optimierung ausgerichteten Arbeitsbedingungen in den meisten Bereichen der Medienbranche sind ernsthafte Bemühungen derzeit kaum zu erkennen, der Gefahr durch manipulative, mit KI-Werkzeugen erstellte Inhalte wirksam zu begegnen. Dafür genügen keine Absichtserklärungen. Der Schutz des demokratischen Diskurses erfordert verbindliche redaktionelle Richtlinien und angemessene Ressourcen zu deren Umsetzung.
Zum Deutschen Fotorat: https://deutscher-fotorat.de/