Googles experimentelles KI-Modell Gemini 2.0 Flash kann Wasserzeichen aus Bildern entfernen und die bearbeiteten Stellen intelligent ergänzen.
Fehlende Schutzmaßnahmen bei neuer KI-Funktion
Google steht wegen seiner neuen KI-Funktion Gemini 2.0 Flash in der Kritik: Wie mehrere Tech-Medien berichten, lässt sich das Tool zum Entfernen von Wasserzeichen aus Bildern missbrauchen – auch von urheberrechtlich geschützten Fotos großer Bildagenturen wie Getty Images.
Die Funktion ist Teil der experimentellen Bildbearbeitungsfähigkeiten von Gemini 2.0 Flash, die Google vergangene Woche für Entwickler freigegeben hat. Wie Techcrunch berichtet, entfernt die KI nicht nur Wasserzeichen, sondern füllt auch entstandene Lücken im Bild überzeugend aus. Zwar hinterlässt das System sowohl sichtbare als auch unsichtbare “Bearbeitet mit KI”-Markierung (SynthID), aber auch diese lässt sich mit KI-Tools wieder entfernen.
Im Gegensatz zu anderen KI-Modellen wie OpenAIs GPT-4o oder Anthropics Claude 3.7 Sonnet, die das Entfernen von Wasserzeichen explizit verweigern, fehlen bei Gemini 2.0 Flash entsprechende Beschränkungen. Das Tool ist aktuell nur über Googles Entwicklerplattform AI Studio verfügbar und als “experimentell” gekennzeichnet.
The Verge erinnert daran, dass Google bereits 2017 einen Algorithmus zur Wasserzeichen-Entfernung entwickelt hatte – damals allerdings, um auf die Notwendigkeit besserer Schutzmechanismen hinzuweisen. Das unerlaubte Entfernen von Wasserzeichen ist nach US-Recht illegal und kann rechtliche Konsequenzen mit Schadensersatzansprüchen von bis zu 25.000 US-Dollar nach sich ziehen.
Weitere problematische Fähigkeiten
Neben der Wasserzeichen-Problematik wurde auch bekannt, dass das Tool entgegen üblicher KI-Beschränkungen Bilder von echten Personen und urheberrechtlich geschützten Charakteren generieren kann. Techradar berichtet, dass die Ergebnisse bei Prominenten-Bildern zwar noch uneinheitlich ausfallen, das Tool aber dringend zusätzliche Beschränkungen benötigt. Google hat sich bisher nicht zu den Berichten geäußert.
Unabhängig davon, ob Google die Funktion jetzt einschränkt oder nicht – längst ist klar geworden, dass generative KI etwa auch zu solchen Zwecke verwendet werden kann und früher oder später wird ein Tool an dessen Stelle treten, . Ohnehin haben Erzeugnisse aus Bildgeneratoren schon Stockfotodatenbanken überflutet und bei professionellen Fotografen in dieser Branche für Umsatzeinbußen gesorgt.
Mit ein bisschen Photoshop-Magie war es schon zuvor möglich, Wasserzeichen unerlaubt zu entfernen. Dass das jetzt einfacher geworden ist, wird meiner Meinung nach nichts an der Realität ändern – große Unternehmen sind ja schließlich nicht dadurch mehr verlockt, plötzlich unlizenziertes Material zu verwenden. Oder seht ihr das anders?
Beitragsbild: @dreamingtulpa/X
Da es sich NICHT um ein „höher, schneller, weiter“ technisches Gerücht zu Kameras von Canon, Fuji, Nikon, Panasonic, Sony handelt wird sich hier keine Sau dafür interessieren!
Die im Artikel beschriebenen negativen Auswirkungen die bereits heute Fakt sind lassen sich nicht wieder zurück in die Büchse stecken.
Liebe „Bilder-Klauer“ macht euch keine Sorgen – wer soll denn das kontrollieren und zur Anzeige bringen? Wer schon mal im internationalem Raum Prozesse angestrengt hat wird lieber geknickt den Verlust zur Kenntnis nehmen als auf Gerechtigkeit hoffen.
Zu wem gehört die „Suchmaschine“? Und selbst wenn man gewinnen würde schert sich der System relevante Konzern nicht um das Urteil weil es keine Konsequenzen befürchten muss.
NEUHEIT zur Kenntnis genommen – abhaken und zur Tagesordnung übergehen!
Das Problem lässt sich auf Dauer zumindest im gewerblichen Einsatz nur dadurch handhabbar machen, dass Datenbanken nur noch von verifizierten Fotografen/Agenturen Fotos in ihre Datenbanken aufnehmen und Kunden, die rechtssicher Fotos verwenden möchten, nur bei solchen Datenbanken Fotos zur Nutzung erwerben. Damit wäre zumindest für Kunden soweit als möglich Rechtssicherheit gegegeben. Den Bilderklau sowie Fakefotos wird man nicht mehr stoppen können. Selbst wenn sich einige KI-Tools selbst Beschränkungen auferlegen wird es immer wieder irgendwo auf der Welt andere KI-Tools geben, die sich einer solchen Beschränkung nicht unterwerfen. Auch deshalb werden gesetzliche Regelungen nicht weiterhelfen können. Das Geschäftsmodell “Stockfotos” wird sich für Fotografen bald erledigt haben, weil die Konkurrenz von KI-generierten Fakofotos Überhand nehmen wird und der Bilderklau kaum eingeschränkt werden kann.
Wenn es nur Bilder betreffen würde. Die KI wird die Welt in eine Richtung verändern, die sich viele noch gar nicht vorstellen können. Es stehen bis zu 300Millonen Arbeitsplätze in der westlichen Welt zur Disposition. Auch Hochqualifizierte sind davor nicht geschützt, z.B. juristische Fragen können bis zu 90% durch KI ersetzt werden, Diagnostik kann nahezu vollständig durch KI ersetzt werden um nur 2 Beispiele zu nennen. Das ist das erste Mal, daß ich froh bin inzwischen Ü60 zu sein und nicht mehr U30. Übrigens eine Tochter studiert dennoch Jura, die andere Medizin und die Dritte weiss noch nicht genau ob psychologie oder Geschichte.
KI wird generell ein Problem. Auch in der Verwaltung und wenn man sich clone alpha von clone robotics anschaut und deren plan ne KI da rein zu stecken (die wohl auf einer NVidia Karte laufen soll für die Aktienleute unter euch) ist, dann gute Nacht.
“KI wird generell ein Problem. Auch in der Verwaltung” …. aber bestimmt nicht in Deutschland, bzgl. der Verwaltung 😂 Darin sind wir Spitze 🤪
… zum Glück. Deutschland das einzig AI freie Land.(;::-o)