Am Dienstag hat Google angekündigte Pläne um eine Inhaltsauthentifizierungstechnologie in seinen Produkten zu implementieren, die den Benutzern hilft, zwischen von Menschen erstellten und von KI-generierten Bildern zu unterscheiden. In den nächsten Monaten wird der Technologieriese den Standard der Coalition for Content Provenance and Authenticity (C2PA), ein System zur Nachverfolgung der Herkunft und Bearbeitungshistorie digitaler Inhalte, in seine Such-, Anzeigen- und möglicherweise YouTube-Dienste integrieren. Es ist jedoch eine offene Frage, ob eine technologische Lösung das Problem lösen kann. altes soziales Problem des Vertrauens in aufgezeichnete Medien, die von Fremden produziert wurden.
A Gruppe der Technologieunternehmen haben das C2PA-System ab 2019 entwickelt, um irreführende, realistische synthetische Medien im Internet zu bekämpfen. Da KI-generierte Inhalte immer häufiger und realistischer werden, befürchten Experten, dass es für Benutzer schwierig sein könnte, die Echtheit der angezeigten Bilder zu bestimmen. Der C2PA-Standard erstellt eine digitale Spur für Inhalte, die von einer Online-Signaturstelle unterstützt wird und Metadateninformationen darüber enthält, woher die Bilder stammen und wie sie geändert wurden.
Google wird diesen C2PA-Standard in seine Suchergebnisse integrieren, sodass Benutzer sehen können, ob ein Bild mit KI-Tools erstellt oder bearbeitet wurde. Die Funktion „Über dieses Bild“ des Technologiegiganten in Google Search, Lens und Circle to Search zeigt diese Informationen an, sobald sie verfügbar sind.
In einem Blogbeitrag räumte Laurie Richardson, Googles Vizepräsidentin für Vertrauen und Sicherheit, die Komplexität der plattformübergreifenden Ermittlung der Inhaltsherkunft ein. Sie erklärte: „Die Ermittlung und Kennzeichnung der Inhaltsherkunft bleibt eine komplexe Herausforderung, bei der je nach Produkt oder Dienst eine Reihe von Überlegungen angestellt werden müssen. Und obwohl wir wissen, dass es keine Patentlösung für alle Online-Inhalte gibt, ist die Zusammenarbeit mit anderen in der Branche entscheidend, um nachhaltige und interoperable Lösungen zu schaffen.“
Das Unternehmen plant, den neuesten technischen Standard von C2PA zu verwenden, Version 2.1das angeblich eine verbesserte Sicherheit gegen Manipulationsangriffe bietet. Seine Verwendung wird über die Suche hinausgehen, da Google beabsichtigt, C2PA-Metadaten in seine Anzeigensysteme zu integrieren, um „wichtige Richtlinien durchzusetzen“. Auch YouTube könnte in Zukunft C2PA-Informationen für mit der Kamera aufgenommene Inhalte integrieren.
Laut Google steht die neue Initiative im Einklang mit den anderen Bemühungen des Unternehmens um Transparenz bei der KI, darunter die Entwicklung von SynthIDeine eingebettete Wasserzeichentechnologie, die von Google DeepMind entwickelt wurde.
Eine flächendeckende Wirksamkeit von C2PA bleibt ein Traum
Obwohl die Geschichte dieser Technologie schon seit mindestens fünf Jahren zurückreicht, ist der Weg zu einer nützlichen Technologie zur Inhaltsherkunft wie C2PA steinig. Die Technologie ist völlig freiwillig und wichtige Authentifizierungsmetadaten können nach dem Hinzufügen leicht aus Bildern entfernt werden.
KI-Bildgeneratoren müssten den Standard unterstützen, damit C2PA-Informationen in jede generierte Datei aufgenommen werden, was Open-Source-Bildsynthesemodelle wie Flux wahrscheinlich ausschließen würde. In der Praxis werden also vielleicht mehr „authentische“, mit der Kamera erstellte Medien mit C2PA gekennzeichnet als KI-generierte Bilder.
Darüber hinaus erfordert die Pflege der Metadaten eine vollständige Toolchain, die C2PA bei jedem Schritt unterstützt, einschließlich der Quelle und aller Software, die zum Bearbeiten oder Retuschieren der Bilder verwendet wird. Derzeit unterstützen nur eine Handvoll Kamerahersteller wie Leica den C2PA-Standard. Nikon und Canon haben zugesagt, ihn zu übernehmen, aber The Verge Berichte dass weiterhin Unsicherheit darüber besteht, ob Apple und Google C2PA-Unterstützung in ihren Smartphones implementieren werden.
Adobe Photoshop und Lightroom können C2PA-Daten hinzufügen und verwalten, aber viele andere beliebte Bearbeitungstools bieten diese Möglichkeit noch nicht. Es genügt ein einziger nicht konformer Bildeditor in der Kette, um die volle Nützlichkeit von C2PA zunichte zu machen. Und der allgemeine Mangel an standardisierten Anzeigemethoden für C2PA-Daten auf allen Online-Plattformen stellt ein weiteres Hindernis dar, den Standard für Alltagsnutzer nutzbar zu machen.
Derzeit könnte man C2PA wohl als technologische Lösung für ein Problem betrachten, das über die Technologie hinausgeht. Wie Historiker und Journalisten habe gefunden Seit Jahrhunderten beruht die Richtigkeit von Informationen nicht zwangsläufig auf dem Mechanismus, mit dem die Informationen auf einem festen Medium aufgezeichnet werden. Sie beruht auf der Glaubwürdigkeit der Quelle.
In diesem Sinne könnte C2PA zu einem von vielen Tools werden, die zur Authentifizierung von Inhalten eingesetzt werden, indem festgestellt wird, ob die Informationen aus einer glaubwürdigen Quelle stammen – sofern die C2PA-Metadaten erhalten bleiben. Allerdings dürfte es allein keine vollständige Lösung für das Problem von KI-generierten Fehlinformationen darstellen.
