Ist das echt oder KI? Diese Frage müssen wir uns mit dem Fortschritt generativer Bildmodelle immer häufiger stellen. Reuters und Canon wollen helfen.
Bedarf an vertrauenswürdigen Inhalten steigt
Die internationale Nachrichtenagentur Reuters hat zusammen mit Canon, dem Starling Lab von Harvard und der University of Southern California ein Pilotprojekt zur Überprüfung der Echtheit von Bildern abgeschlossen. Damit soll das Vertrauen in Bildinhalte in Zeiten von politischer Desinformation und KI-generierten Fälschungen gestärkt werden.
Angesichts der zunehmenden Verbreitung gefälschter Inhalte besteht ein großer Bedarf, die Authentizität von Nachrichtenmedien nachprüfbar zu machen. Gerade vor dem Hintergrund der öffentlichen Skepsis gegenüber echten und falschen Nachrichten.
Technologie zur Nachverfolgung der Bildhistorie
Bei dem Pilotprojekt wurde eine Technologie von Canon getestet, die den Weg eines Bildes von der Aufnahme bis zur Veröffentlichung nachverfolgbar macht. Dies geschieht durch das Einbinden von Metadaten. Zusätzlich kam das Authentifizierungs-Framework von Starling Lab zum Einsatz.
Fotojournalistin testet Prototyp-Kamera
Die Reuters-Fotografin Violeta Santos Moura hat eine Canon-Prototyp-Kamera. Die aufgenommenen Bilder wurden digital mit einem eindeutigen Identifikator (Hash-Wert) versehen, der auch Zeit, Datum und Ort enthält. Zudem wurden die Bilder kryptografisch signiert, um ihre Authentizität nachweisbar zu machen und in einer öffentlichen Blockchain registriert.
Nach jeder Bearbeitung durch die Bildredaktion von Reuters wurde dies dort aktualisiert. Dieser Prozess wurde fortgesetzt, bis die Fotos mit ihren Metadaten, Bearbeitungsverlauf und Blockchain-Registrierung gemäß dem neuen C2PA-Standard eingebettet wurden. Um die Echtheit der Bilder zu überprüfen, können Kunden der Nachrichtenagentur den eindeutigen Identifikator auf der öffentlichen Blockchain vergleichen.
Canon ist Teil der Content Authenticity Initiative
Canon ist im Januar der Content Authenticity Initiative (CAI) beigetreten. Seit sie 2022 unter anderem von Leica, Nikon, Adobe und der New York Times ins Leben gerufen wurde, sind bereits einige Medien- und Technologieunternehmen hinzugekommen.
Viele Fotojournalisten verlassen sich auf Canon-Technologien. Wir sind uns der Rolle bewusst, die Bilder in der Gesellschaft spielen, und wissen, wie wichtig es ist, die Authentizität von Bildern zu bewahren. Im Rahmen der Content Authenticity Initiative (CAI) möchte Canon sinnvolle Maßnahmen ergreifen, um Bildausgaben zu schützen, die der Nachrichtengemeinschaft weltweit dienen.
Richard Shepherd, Manager fürs Produktmarketing bei Canon Europe
via: PetaPixel | Beitragsbild: Kayla Velasquez
Das ist auch bitter nötig. Die Vermischung von Wirklichkeit und Wunschvorstellung ist frappierend. Da sollte man einen Riegel vorschieben.
Ich hoffe, das die anderen Kamera Hersteller auch mitziehen und nicht nur Canon aktiv wird.
ich auch!
Ich auch.
Members — Content Authenticity Initiative
Canon, Nikon, Leica sind gelistet. Sony und Panasonic nicht.
Sony ist dafür vorne bei C2PA dabei, auf dem die CAI basiert: Sony Corporation Joins C2PA as Steering Committee Member – C2PA
Im stillen Kämmerlein werkeln also alle mit, aber im Markt ist noch nichts zu sehen. Der Mehrwert ist wahrscheinlich nicht hoch genug um ihn verkaufen zu können.
Inwiefern nehmen den gefälschte Inhalte tatsächlich zu?
Ich denke, dass es so sein könnte, dass es jetzt einfach vielmehr Bewusstsein gegenüber „gefälschten“ Inhalten gibt als „früher“.
Wo fängt die Fälschung an? Mal kräftig am HDR-Regler gezogen, ein paar Stromleitungen wegretouchiert – gefälscht?
Oder erst wenn der Himmel und die Person Vordergrund ausgetauscht wurden?
In erster Linie ist wahrscheinlich einfach mal eine Brandmauer gegen komplett per KI generierten Bilder, die in ein zwei KI Generationen perfekt sein werden.
Zum Zweiten ist schon mal Fotograf, Ort, Datum und Zeit verifizierbar. Immerhin ein Anfang.
so WAHR mir Gott helfe… 😂😂😂
Der Herr hat’s gegeben – der Herr hat’s genommen 😉
😉
Reuters und Canon – das sind eindeutig zu wenige Mitspieler!
Weil die Katze (Desinformation, Manipulation) schon länger aus dem Sack ist außerdem nur „selbst zensierter Journalismus“ in den öffentlich rechtlichen Medien stattfindet wandert auf der Suche nach perspektivischen Alternativen das interessierte Publikum in alle Richtungen auseinander.
Bilder sagen mehr als tausend Worte – haben wir schon oft gehört – jeder kann diesen Spruch an sich selbst nachvollziehen.
Nun werden ständig wunderschöne Apfel präsentiert – Keiner kann sagen ob sie schmecken oder der Inhalt faul ist. Solange es keine weltweite Kennzeichnungspflicht für Bilder/Videos zu Nachrichtenzwecken gibt finde ich den lobenswerten Versuch von Canon und Reuter als ersten Schritt sehr nützlich.
Irgendwer muss ja anfangen. Ich hoffe einfach, dass es ein offener Standard, ohne Lizenzgebühren wird, damit alle Hersteller auf den Zug aufspringen.
habt ihr den Artikel bis zum Schluß gelesen ?
„Canon ist Teil der Content Authenticity InitiativeCanon ist im Januar der Content Authenticity Initiative (CAI) beigetreten. Seit sie 2022 unter anderem von Leica, Nikon, Adobe und der New York Times ins Leben gerufen wurde, sind bereits einige Medien- und Technologieunternehmen hinzugekommen.“
Sehr aufmerksam – Danke Mirko – die Hoffnung lebt.
Ja habe ich. Photografix hat übrigens dazu schon in der Vergangenheit geschrieben.
Es steht aber nirgends ob die Technologie von Canon patentiert ist, oder ob sie frei gegeben wird.😉
Canon ist an der Stelle eher ein Follower, Adobe hat mit CAI angefangen und dann wurde die Basis durch C2PA verbreitert. Es fehlt aber immer noch an Kameras, die die aufgenommenen Bilder gleich am Anfang der Kette signieren. Gut zu sehen, dass mit Canon ein weiterer Massenhersteller wenigstens in der Prototyp-Phase ist.
Das wäre ein sehr aufwändiges Verfahren, was sich vor dem Hintergrund des Ressourcen-Verbrauches letztlich nur rechtfertigen und durchführen ließe, wenn es auf Nachrichtenjournalisten beschränkt bliebe. Dies wiederum würde aber nichts an dem Problem ändern, dass manipulative Kräfte jenseits des Nachrichtenjournalismus weiterhin Fake-Fotos erstellen und im schlimmsten Fall für diskreditierende Behauptungen oder für das Erschaffen vermeintlicher Realitäten verwenden könnten. Erst das betreffene Einsatzszenario macht KI-Fotos zu einem Problem.
100carat da stimme ich bei.
Dieser Deckel war auch in der Vergangenheit nie zu – es war nur viel schwieriger damit sehr schnell genügend Sturm zu veranstalten weil das Wasserglas zu klein war. Lügen hatten kurze Beine heute haben sie tolle Bilder/Videos!
„Lügen hatten kurze Beine“
deswegen ist Scholz, Macron, dieser Schauspieler alle nur so um die 1.70 Groß … Merz ist glaube ich über 1.90 😂😂
Trump ist auch über 1.90 und der ist wohl momentan der unbestrittene Titelverteidiger im Lügen.😉
Und Scholz lügt ja nicht. Der hat nur diese bösen partiellen Demenzen, der Arme.🤫🙃
https://www.der-postillon.com/2023/09/scholz-sturz.html
Aber mit partieller Demenz ist er momentan ja nicht alleine, sondern in guter Gesellschaft mit einem bayrischem Politiker…
da hast Du aber den aktuellen aus USA vergessen 😉
Der ist wahrscheinlich wirklich ab und zu partiell dement (wie auch Mitch Mc Connell) und wird wohl nach ein paar Spärenzchen auch nicht mehr antreten. Das ist blosse Taktik, der macht keine zweite Amtszeit mehr.
Und nein: wenns ums Lügen geht, muss sich Mister Biden in der verbleibenden Amtszeit noch unglaublich anstrengen um Donnie zu überholen. Das bringt er nicht mehr…
In dieser Disziplin ist Donnie wirklich „The Greatest, Unbelievable Best Ever“
da bin ich Dir natürlich im Nachteil da ich weder Trump noch Biden persönlich kennen gelernt habe … den Rest kenne ich nur vom Hören/Sagen aus den Medien 😉
Vom Hörensagen aus den Medien? Wenn Du meinst…
Biden hat ab und zu Aussetzer, ich kann mir nicht vorstellen, dass er nochmal einen Wahlkampf packt und das wissen die Demokraten auch.
Mitch MC Connell hatte mittlerweile mehrere Aussetzer, wo er minutenlang nicht mehr weitersprechen konnte. Im Parlament…
Und dass Donnie lügt wie es ihm beliebt, nun dafür muss man ihn weder persönlich kennen und es auch nicht vom „Hörensagen aus den Medien“ kennen, noch hier gelesen haben: https://www.washingtonpost.com/graphics/politics/trump-claims-database/?utm_term=.d292f7ee5878
Es ist ganz einfach: Schau Dir seine Brandrede an, die er vor dem Sturm aufs Capitol hielt. Wir haben sie live gesehen und es war glasklar, was in den nächsten Stunden passieren wird.
Mehr habe ich dazu nicht zu sagen.
Oh und als Bonustrack: Kellyanne Conway in Trumps Beraterstab erfand 2017 den Begriff „alternative Fakten“.
Das muss man sich erst mal auf der Zunge zergehen lassen.
Alternative Fakten. 😜
… also wieder so eine „Faktenchecker-Analyse“ 😎 Fakt ist, diese Nation ist gespalten wie NIE zuvor und keine Ahnung wo das mal Enden wird. Die Wahl Trump/Clinton war für mich eine Wahl zwischen Pest und Cholera, die letzte Wahl war für mich wo man zwischen Pest und Pest wählen konnte 😉
Sorry, schau Dir eine einzige Rede von Trump an und Du weisst was Sache ist.
Da musst Du nicht im Geringsten komisch andeutende „Faktenchecker😎“ Emoticons schreiben.
Ich nehme Dir nicht ab, fass Du das nicht selber siehst.
Die letzte Wahl war nicht Pest und Pest, sondern Mist und Pest, bleiben wir einigermassen fair.
Trump das ist, wenn man plötzlich das Gefühl hat, sogar die Bush/Cheney Administration wäre annehmbarer.
Das mit der Spaltung stimmt natürlich.
Kann in jedem Staat passieren, auch wenn ein Mehrparteiensystem die Sache etwas verlangsamt. Also passt bloss auf…
Trump und Clinton würde ich nicht in einem Topf werfen, denn Clinton ist durchaus intelligent, durchdacht und neigt nicht permanent zu Affekthandlungen (was nicht heißt, dass man mit all ihren Positionen einverstanden sein muss). Erst recht abseits des Scheinwerferlichts kann man mir ihr sehr gute Gespräche führen.
Ja und nein, werter 100carat! Wegen der Grundsätze kann man in einigen Ländern kein Staatsoberhaupt werden, wenn man nicht dort geboren wurde und vor allem nicht, wenn man keinen Dreck am Stecken hat, um nach der Wahl allzu viele eigene Ideen vermeiden zu können. Der gute Bill hat den Leuten, die wirklich das Sagen haben klar vor Augen geführt, dass es nicht gut ist, wenn ein Staatschef zu jung ist, man hatte den ungemeinen Vorteil alter Zossen vergessen, die aus allzu langer Lebenserfahrung ein wenig Flexibilität zwischen den Ohren verloren haben, was unglaubliche Vorteile bringt, wie man an einem anderen Zwergstaat klar erkennen kann. Leider (oder Gott sei Dank) kommen wir alle nicht an gewisse Daten, so würde z.B. das Wissen, welche Fachärzte welches Staatsoberhaupt begleiten Rückschlüsse zulassen, die wir gar nicht haben wollen. Private gute Gespräche kann man m.M.n. übrigens mit den meisten Spitzenpolitikern führen (geht nicht um Deutschland), selbst einige „Stellvertreter Gottes“ haben recht gesunde Ansichten, welche sie in der Öfffentlichkeit aber für sich behalten müssen, denke ich mir. Und so blöd wie die quatschen sind die wohl alle nicht, nicht mal die, von der es die Mehrheit glaubt und deren Name ich nie nicht nennen würde, erstens… Weiterlesen »
Mirko bezog sich wohl auf Hilary … mit Bill hatte ich noch nicht das Vergnügen, lieber Leonhard.
Im stillen Kämmerlein spricht von den Politikern so mancher anders als in der Öffentlichkeit – und nicht nur die, wie Du zurecht bemerkst.
… ich lebe im „Jetzt und Hier“ und habe keine Lust zu verflossenen Wahlen zu recherchieren, da ich mir H. Clintons Aussagen,Vorwürfe etc. nicht alle abgespeichert habe. Mir geht viel mir der qualitative Journalismus auf die Nüsse, 4 Jahre lang von Morgens bis Abends, „Trump sein Hosenstall war offen“ , „Trump trägt Toupet“, „Trump tritt bei der Queen ins Fettnäpfchen“ eigentlich typische Artikel der Boulevardpresse schafften es sogar in die Nachrichten. Hr. Biden hatte wohl wieder ein paar Aussetzer/ Versprecher in Hanoi auf Lager aber da reden wir nicht grob drüber da scheinbar die Demokraten eben Demokraten sind . Im übrigen wäre mein Favorit ein Demokrat aber eben nicht dieser …
Die nach Klicks gierenden Artikel der Nebensächlichkeiten, von Journalismus würde ich in dem Zusammenhang gar nicht sprechen, sind in Anzahl und inhaltlicher Relevanz in der Tat schwer erträglich. Bei T. mag es noch nachvollziehbar sein, über welche Inhalte wollte man beim ihm diskutieren? Das war und ist ja eher emotional und situativ entstehendes Erbrochenes, dem zumeist nicht mal ansatzweise irgendwelche Kenntnisse oder das Vermögen, Zusammenhänge zu erkennen, zugrunde liegen.
… nach 81.283.074 Wahlstimmen für Biden und 74.222.959 Stimmen für Trump solltest Du die amerikanische Bevölkerung fragen was Trump gut bzw. schlecht gemacht hat 😉 Habe oben schon geschrieben dass das amerikanische Volk gespalten ist und leider wurde es auch durch J.B. nicht besser.
Amtsenthebungsverfahren und Anklage gegen seinen ehrenwerten Sohn eingeleitet, Sorry dieser Clan ist für mich auch nur Pest 🤕 Nur Trump ist Geschichte ( es sei denn er wird der erste Präsident der im Knast sitzt dann lache ich mich wirklich nur noch schlapp) und dieser senile Greis ist noch an der Macht 🫢
Keine weiteren Fragen.
Ein ganz anderes Problem, dass dazu kommt und wunderbar zu den Fakenews passt, ist die unglaubliche Unverfrorenheit:
Wenn wir mal zurück denken, wie wenig es damals gebraucht hat, dass Nixon zurücktrat und was Trump im Vergleich schon vor seiner ersten Wahl anstellte, hätte dieser schon gar nie Präsident werden sollen.
Oder all die Politiker mit den „zuerst negieren und abwiegeln, dann stückweise zugeben, wenn es nicht mehr anders geht, oder plötzlich diese selektive Demenz und Hauptsache alles aussitzen“ Strategien…
Der Erfinder des Begriffs „alternative Fakten“ ist ja nicht zufällig jemand mit orangen Haare, Selbstbräunertaint und der „Best Dealmaker Ever!“
Nixon?
Ganz schlechtes Beispiel, lieber Peter, ganz schlechtes Beispiel, nehme ich mal laienhaft an.
Warum mußte er denn zurück treten? Wegen irgend einem Wasser-Tor? Deshalb mußte er sich klar sein, dass seine Absetzung eine Zweidrittelmehrheit bekommen würde? Deswegen gab der Verteidigungsminister die Anweisung, dass ein Atomwaffeneinsatz, vom Presidenten angeordnet, erst eine Nachfrage bei ihm auslösen mußte?
Jedes System, jede Verfassung hat ihre Vor- aber auch Nachteile, eine Verfassung, die einem Staatsoberhaupt die Macht eines Königs auf Zeit gibt ist nicht per se schlecht, wenn sie dann den Fall eines kranken Presidenten ausreichend vorsieht. Und je älter eine Demokratie, desto wahrscheinlicher, dass sie Krankheiten nicht berücksichtigt, von denen man damals noch keine bzw. wenig Ahnung hatte.
Was haben meine wilden Spekulationen jetzt wieder mit dem Thema hier zu tun, ach ja, um die Menschen hinter die Fichte zu führen, dafür brauchte es noch nie Bilder, Bilder können helfen, dies zu tun, aber die Fichte stand schon immer, da haben noch keine Menschen in die Höhlen gemalt, aber egal, trinke lieber meinen Kinderkaffee, alte Böcke sollen nicht so viel schwafeln.
Ja Blockchainverfahren kostet dick Rechnerleistung, das wird schwierig umzusetzen sein für jede verbaute Kamera. Das wären mittlerweile Milliarden an Kameras.
Und ja, die Fälscher wird es trotzdem geben, hätten aber immerhin den Makel des nicht verifizierten Bildes.
Wie auch immer. Die Lösung des Problems ist das Prinzip von Canon auch nicht. Aber ein guter Anfang.
„Ja Blockchainverfahren kostet dick Rechnerleistung, das wird schwierig umzusetzen sein für jede verbaute Kamera. Das wären mittlerweile Milliarden an Kameras.“
Genau darauf spielte ich an.
„Und ja, die Fälscher wird es trotzdem geben, hätten aber immerhin den Makel des nicht verifizierten Bildes.“
Das Problem ist: „Der Makel des nicht verifizierten Bildes“ interessiert die Gläubigen nicht, die eigentlich nur in ihrer sehr eigenen und eigenwilligen Weltsicht bestätigt werden wollen. Diese Homo debilis reagieren zumeist derart reflexartig, dass für eine cognitive Verarbeitung von Informationen und Zusammenhängen keine Zeit bleibt, schon gar nicht für eine fundierte Recherche und Verifizierung. Ein Blick in die Kommentarspalten der sozialen Medien oder Nachrichten liefert dafür leider täglich millionenfache Belege.
Die Initiative kommt noch aus einer Zeit, als Blockchain ein aktueller Hype war. Ich erinnere mich an el Hotzo:
„Wenn du in Berlin auf der Straße dreimal ‚Blockchain‘ sagst, kommt sofort ein Investor vorbei, drückt dir eine Million Euro in die Hand, gründet ein Start-Up und sperrt dich für den Rest deines Lebens in einen Co-Working-Space.“
Die Blockchain bezeichnet eigentlich eine globale Blockchain, wie sie bei Krypto-Währungen gebraucht wird. Die kostet wirklich Leistung. Bei CAI gibt es eine kleine Blockchain pro Bild, wo jeder Bearbeitungsschritt signiert wird. Das kostet eher nichts.
„Und ja, die Fälscher wird es trotzdem geben, hätten aber immerhin den Makel des nicht verifizierten Bildes.“
Selbst das nicht, lieber Peter!
Stell Dir vor, ich werde zu einem Massaker gerufen, soll als Hobbyist ein Paar Bilder machen, plaziere meine „Modelle“ richtig und mache dann mit der wundervollen neuen Canon mein Bild, dann habe ich auch noch dieses „Gütesiegel“ auf meiner Fälschung, was das Lügenprodukt dann auch noch aufwertet.
Hierzu gab es ja nun leider in der Vergangenheit schon mehr als genug traurige Beispiele, einige sogar dann per Zufall aufgeflogen, wobei man dann nie weiß, ob das „Auffliegen“ dann wieder die Fake-News ist!
… ich werde mit meiner „Texas Leica“ nur noch Fake Bilder erschaffen, ich schwöre 😉
So aufwändig sieht das Verfahren für mich nicht aus. Das Problem ist, dass die ganze Kette vorhanden und implementiert sein muss, damit es funktioniert, also Kameras, Bearbeitungssoftware und Anzeigesoftware (Browser).
Vor allem bei den Kameras sehe ich noch keine Geräte im Markt. Bisher gab’s nur Prototypen. Ich erinnere mich an eine Meldung zu Sony – vielleicht verkaufen die schon was.
Der Anfang der Kette ist aber für mich entscheidend. Ein vertrauenswürdiger Fotograf macht mit seiner Kamera ein Bild, das gleich bei der Aufnahme vom Kamerahersteller signiert wird. Darauf kann man aufbauen.
Wenn der Bildersteller aber schon nicht vertrauenswürdig ist, dann ist die ganze Kette danach nutzlos. Er kann z. Bsp. das Bild falsch datieren, falsche Ortsangaben machen oder ein gefälschtes Bild abfotografieren. Fake-News und KI Bilder in Social Media wird es weiterhin geben.
Es wird also auf Nachrichtenjournalismus beschränkt bleiben, der mit diesem Aufwand seine Qualität erhöht. Jetzt muss nur noch jemand bereit sein, dafür zu bezahlen.
Leider hast du ein paar wahre Punkte benannt, die die Sache erschweren – welche sich aber zu 90% wiederum über „KI-Prüfungen“ und „Pflicht“-Vorgaben, wie z.b. GPS-Signalempfang etc., der Initiative absichern lassen. Es bleibt aber interessant!
Es wird Höchst Zeit… Heutzutage kann niemand mehr auf den ersten Blick sehen, wer und was dahintersteckt. Bei genauerer Recherche jedoch und etwas zeitl. Engagement findet man jedoch sehr schnell heraus- wem man in jedem Fall (nicht) trauen sollte…
Na, dann schlage ich vor, dass du mal schön recherchierst.
Naja, ließt sich so als wenn sich das ganze nur auf Canon und Reuters bezieht. Freie Fotografen werden sich wahrscheinlich sehr genau überlegen ob sie ihre R5 oder R6 gegen ein neues, teureres Presse Model tauschen.
Und nur Kunden von Reuters können die Fotos überprüfen.
Was ist mit den Milliarden Fake Fotos auf kleinen News Seiten und Social Media?
Ich halte den Ansatz von Microsoft für besser, obwohl die Fotos erst beim in die Cloud stellen signiert werden.
Jedoch soll der Browser beim betrachten über die Echtheit entscheiden und dann könnte es jeder prüfen.
https://t3n.de/news/microsoft-deepfakes-entlarven-1318610/
Moin Marco, nicht jeder hat ein Cloud. Ich finde, die Verantwortung liegt beim Hersteller.
Der muss die Fotos so abspeichern, das man auc h als Laie erkennen kann, dass DIESES Foto ohne KI aufgenommen wurde. Wenn es dann zu FAKE-Bildern kommt, muss der Hinweis automatsch von Programmen zur Bildbearbeitung
durch den Hinweiss MIT KI bearbeitet ersetzt werden. So in etwa sollte das ablaufen.
Sonst haben wir in den Nachrichten nur noch FAKE Bilder und News.
Dat‘ Kölsche kennt ein tolles Wort: „Kokolores“… 🙂