Das Thema wird uns noch eine ganze Weile begleiten, doch immerhin gibt es ein paar Fortschritte, wenn es um den Quellennachweis von Bildern geht.
C2PA für Kamerahersteller – und KI-Anbieter
Über den Standard C2PA habe ich hier im Blog schon öfter berichtet. Im Grunde will ein Verbund aus Unternehmen der Bildindustrie, darunter Hersteller wie Canon, Leica oder Sony, damit eine Möglichkeit schaffen, dass echte Fotos auch als solche zu erkennen sind. Ziel ist ein unkaputtbares digitales, unsichtbares Wasserzeichen, das sicherstellt, dass das Bild aus einer echten Kamera stammt und nicht nachträglich verändert wurde.
Noch gibt es nur wenige Kameras, die C2PA unterstützen. Leica hatte mit der M11-P letztes Jahr einen ersten Aufschlag gewagt, Sony aktualisiert zumindest eine Handvoll seiner neuesten Apparate per Software. Doch nicht nur Kamerahersteller implementieren nach und nach diese Lösung, auch KI-Anbieter arbeiten an Lösungen, dass ihre Bilder verlässlich als KI-erstellt kennzeichnet.
OpenAI, Entwickler der weltweit erfolgreichsten KI-Plattform ChatGPT, hat jetzt die Integration von C2PA in seinen Bildgenerator DALL-E 3 bekanntgegeben. Ab sofort sind alle Bilder, die direkt über die Webseite chat.openai.com oder über die Programmierschnittstelle über Drittsoftware erstellt werden, mit dem entsprechenden Wasserzeichen versehen. Ab dem 12. Februar gilt das auch für Bilder aus der Smartphone-App. Allerdings kündigt OpenAI die Neuerung mit einigen Vorbehalten an:
Metadaten wie C2PA sind kein Allheilmittel zur Lösung von Provenienzproblemen. Sie können leicht versehentlich oder absichtlich entfernt werden. Zum Beispiel entfernen die meisten Social-Media-Plattformen heutzutage die Metadaten von hochgeladenen Bildern und auch Aktionen wie das Erstellen eines Screenshots können diese entfernen. Daher kann ein Bild ohne Metadaten mit ChatGPT oder unserer API erstellt worden sein oder auch nicht.
Wir glauben, dass die Einführung dieser Methoden zur Herkunftsbestimmung und die Ermutigung der Nutzer, diese Signale zu erkennen, der Schlüssel zur Erhöhung der Vertrauenswürdigkeit digitaler Informationen ist.
Wir glauben, dass die Annahme dieser Methoden zur Feststellung der Herkunft und die Ermutigung der Nutzer, diese Signale zu erkennen, der Schlüssel zur Erhöhung der Vertrauenswürdigkeit digitaler Informationen sind.
OpenAI in einem Hilfeartikel (maschinell übersetzt)
Das Problem ist längst nicht gelöst
Abgesehen davon, dass die Metadaten theoretisch entfernt werden können, braucht es zudem erst einmal Abläufe, die Nutzen aus ihnen ziehen. Schließlich wird man nicht jedes zweifelhafte Bild erst einmal durch Tools wie contentcredentials.org/verify schleifen wollen. Immerhin hat Meta praktisch zeitgleich angekündigt, solche Mechanismen in seine Plattformen einzubauen.
Doch selbst mit solchen Mitteln ist es noch ein langer Weg, bis wir fotorealistischen Bildern im Internet wieder ohne Weiteres vertrauen können – falls jemals. Auch wenn OpenAI einen großen Marktanteil hat, ist es längst nicht der einzige Anbieter solcher Technologien. Midjourney und Shutterstock etwa arbeiten mit dem IPTC Digital Source Type an einem parallelen Standard zur Verifikation von KI-Bildern.
Beitragsbild: Midjourney
Ich sehe aktuell nur den Nutzen, dass man das signierte Original-KI Bild mit einer Bildersuche ausfindig machen kann und damit auch nachweisen kann, woher unsignierten Kopien stammen.
Ansonsten tun sie es wahrscheinlich, weil sie es können. Immerhin dürfte sich damit langsam rumsprechen, dass C2PA eben keine Anti-KI-Bild Wunderwaffe ist.
Rüdiger – genau so ist es. Wie will man auch weltweit eine z.B „Kennzeichnungspflicht“ durchsetzen. Beschissen wurde schon immer – wird trotz aller Bemühungen weiterhin so bleiben.
KI ist z.B. in der medizinisch-biologischen Forschung immens wichtig weil sie zum Beispiel „Strukturen“ erkennt die wir Menschen mangels „ genügend gespeicherter Daten“ nicht sehen würden. Was wir daraus generieren ist MI (menschliche Intelligenz).
Die Überschrift scheint mir ein wenig irreführend. Ansonsten ist das doch erstmal ein guter Schritt in die richtige Richtung. Auch wenn “schon immer beschissen” wurde, muss das ja ja nicht davon abhalten, eine Kennzeichnung einzuführen. Ich gehe davon aus, dass auch der AI-Act der EU eine Kennzeichnungspflicht beinhalten wird.