Von Hardik Vyas und Seana Davis
10. Juli (Reuters) – Ein neues KI-Erkennungstool von , das das Technologieunternehmen diese Woche zusammen mit der Einführung seines Bilderzeugungsmodells Muse Image vorstellte, konnte laut einer Reuters-Analyse einige seiner eigenen KI-generierten Bilder nach dem Zuschneiden nicht identifizieren.
Das Ergebnis verdeutlicht die Herausforderungen bei der Überprüfung von KI-generierten Bildern nach häufigen Änderungen, eine Einschränkung, die es in einem arbeitsreichen Wahljahr, zu dem auch die Zwischenwahlen in den USA gehören, schwieriger machen könnte, Deepfakes online zu identifizieren.
Bei einer Analyse von 40 mit Muse Image erstellten Bildern stellte Reuters fest, dass das Erkennungstool alle ursprünglich von der KI generierten Bilder überprüfte, jedoch 55 % derselben Bilder nicht überprüfte, nachdem sie auf etwa ein Drittel bis die Hälfte ihrer Originalgröße zugeschnitten wurden.
Auf seiner Website gibt Meta an, dass das Tool zur Vorschauerkennung seine eigenen, von der KI generierten Bilder identifizieren kann, selbst wenn diese beschnitten sind, und zwar mithilfe eines unsichtbaren Wasserzeichensystems namens „Content Seal“, das in jedes von Muse Image generierte Bild eingebettet ist und Benutzern helfen soll, zu überprüfen, ob es von den KI-Modellen von Meta erstellt wurde.
Auf die Frage nach den Ergebnissen der Reuters-Analyse des Erkennungstools antwortete Meta, dass es sich bei dem Tool um eine Vorschau handele. Das Unternehmen sagte, das Wasserzeichen sei so konzipiert, dass es nach häufigen Bearbeitungen intakt bleibe, das Signal jedoch verloren gehen könne, wenn ein Bild stark beschnitten sei.
Die konkurrierenden Technologieunternehmen Google und OpenAI haben gewarnt, dass ihre eigenen Erkennungstools nicht narrensicher gegen Bildveränderungstechniken sind.
Im März forderte das Oversight Board von Meta, ein Expertengremium, das verbindliche „Entscheidungen“ trifft und Empfehlungen zu Inhaltsproblemen auf den Social-Media-Plattformen des Unternehmens abgibt, das Unternehmen dazu auf, mehr gegen die „Vermehrung irreführender KI-generierter Inhalte“ auf seinen Plattformen vorzugehen und in stärkere Erkennungstools zu investieren.
Siwei Lyu, Informatikprofessor an der State University of New York in Buffalo, der sich mit KI-Bildforensik beschäftigt, sagte, er habe das Tool von Meta nicht evaluiert, wasserzeichenbasierte Systeme hätten jedoch Einschränkungen.
„Wasserzeichenbasierte Methoden können sehr effektiv sein, wenn das Wasserzeichen intakt bleibt, aber jede Änderung, die das eingebettete Signal entfernt oder schwächt – wie etwa Zuschneiden, Größenänderung, starke Komprimierung oder Bearbeitung – kann ihre Wirksamkeit verringern, je nachdem, wie das Wasserzeichen gestaltet ist“, sagte Lyu.
Sarah Barrington, KI-Forscherin und Ph.D. Kandidat an der UC Berkeley School of Information, sagte, Wasserzeichen seien vielversprechend für die Zukunft von KI-generierten Inhalten, könnten aber nur begrenzte Ergebnisse bringen.
„Wie viele vorbeugende Cybersicherheits- oder physische Sicherheitsmaßnahmen ist es möglicherweise nicht völlig wasserdicht, aber selbst wenn wir nur 90 % der Fälle erfassen, ist das immer noch ein großer Sprung von 0“, sagte sie.
