Seit einiger Zeit bemerken Nutzer verstärkt einen besonderen Hinweis auf Instagram und Facebook. Bei vielen Bildern steht „Mit KI generiert“. Was bedeutet dieser Hinweis eigentlich?
Zunächst: Der Hinweis „Mit KI generiert“ ist eine Reaktion von Instagram und Facebook darauf, dass immer mehr Inhalte mit künstlicher Intelligenz erstellt werden. Während früher Fotos und Videos auf Instagram aus einer echten Kamera kamen, gibt es inzwischen etliche Tools wie ChatGPT und Dall-E, Midjourney oder Stable Diffusion, die täuschend echte Bilder und Videos erstellen können.
Aus Sicht von Meta ist das potenziell gefährlich, denn Nutzer könnten echte Fotos und reale Ereignisse nicht mehr von gefälschten Inhalten und Missinformation unterscheiden können.
KI-Hinweis erfolgt in Metadaten
Das soziale Netzwerk, andere Unternehmen und einige Tool-Anbieter haben sich daher zusammengeschlossen und einen Standard vereinbart. Wenn ein Tool künstliche Intelligenz einsetzt, um damit Inhalte zu erstellen, sollen diese also immer identisch gekennzeichnet werden, damit die Informationen maschinell ausgelesen werden können.
Instagram, Facebook und andere Anbieter können diese Kennzeichnung auslesen und darauf basierend entscheiden, was sie machen: Soziale Netzwerke könnten beispielsweise wie Meta die Inhalte zusammen mit einem Hinweis ausspielen oder den Upload der Inhalte nicht mehr zulassen.
KI-Label ist in IPTC-Daten enthalten
Definiert ist der KI-Hinweis in den sogenannten IPTC-Daten. IPTC-Daten sind Metadaten, die bereits viele andere standardisierte Informationen enthalten – man kann darüber beispielsweise unsichtbar den Fotografen oder den Aufnahmeort taggen oder allgemeine Tags und Beschreibungen zu Bildern hinzufügen.
In den IPTC-Daten gibt es auch das Feld Digital Source Type. Hier konnte man bislang schon definieren, ob ein Bild eine Collage ist, von einem analogen Film digitalisiert wurde oder ein digitales „Original“ ist.
Relativ neu sind hier die folgenden Angaben:
- Composite including synthetic elements: Ein Mix von mehreren Inhalten, von denen mindestens einer künstlich erstellt wurde
- Trained algorithmic media: Inhalte, die mit einem trainierten KI-Modell künstlich erstellt wurden
- Composite with trained algorithmic media: Ein Mix von mehreren Inhalten, von denen mindestens eins mit einer trainierten KI erstellt wurde
- Pure algorithmic media: Ein Bild, das ausschließlich mit Algorithmen erstellt wurde und nicht mit bestehenden Inhalten trainiert wurde
Mehr als diese vier Möglichkeiten gibt es bislang nicht, um ein Bild anhand der IPTC-Daten als KI-generiert oder original zu kennzeichnen. Das hat auch Folgen für die Ausspielung auf Instagram:
Instagram markiert Bilder falsch als „Mit KI generiert“
Zuletzt gab es relativ viele Bilder, die von Instagram und Facebook als KI-Inhalt gekennzeichnet wurden – auch wenn es sich dabei aus Nutzersicht um echte Fotos handelte. Der Hintergrund davon ist, dass Photoshop selbst relativ kleine Änderungen wie den Einsatz des Reparaturpinsels bereits als KI-Inhalt kennzeichnet. Ein Beispiel dazu wurde hier veröffentlicht:
Möchten Fotografen bereits vor dem Posten auf Instagram überprüfen, ob ein Bild als KI-generiert geflaggt wurde, gibt es dafür zwei Möglichkeiten: Zum einen weist einen Photoshop beim Speichern auf eine Vorschau hin, in der man mehr Informationen dazu erhält.
Alternativ kann man auch einen Metadaten-Reader dafür nutzen. Hier sieht man dann ebenfalls, ob Photoshop oder eine andere Software das Foto mit den KI-Tags gekennzeichnet haben. Bei Bedarf kann man die Metadaten natürlich auch löschen.
Quellen:
Schreibe einen Kommentar