Warum zielte die Studie auf X ab?
Das Forschungsteam der University of Michigan befürchtete, dass ihr Experiment zur Veröffentlichung von KI-generiertem NCII auf X ethische Grenzen überschreiten könnte.
Sie entschieden sich für die Durchführung der Studie auf
Der Transparenzbericht von
Da KI-Bildgeneratoren auf echten Fotos trainiert werden, haben die Forscher auch Schritte unternommen, um sicherzustellen, dass KI-generierte NCII in der Studie die Opfer nicht erneut traumatisierten oder echte Menschen darstellten, die über die Bilder auf X stolpern könnten.
„Jedes Bild wurde mit einer Gesichtserkennungssoftwareplattform und mehreren Reverse-Image-Lookup-Diensten getestet, um sicherzustellen, dass es keiner existierenden Person ähnelte“, heißt es in der Studie. „Für die Studie wurden nur Bilder ausgewählt, bei denen von allen Plattformen bestätigt wurde, dass sie keine Ähnlichkeit mit Personen haben.“
Diese „ethischeren“ Bilder wurden auf
„Unsere Studie könnte zu größerer Transparenz bei Inhaltsmoderationsprozessen“ im Zusammenhang mit NCII beitragen und Social-Media-Unternehmen dazu veranlassen, zusätzliche Anstrengungen zur Bekämpfung von Deepfake zu unternehmen“, sagten Forscher. „Auf lange Sicht sind wir davon überzeugt, dass der Nutzen dieser Studie die Risiken bei weitem überwiegt.“
Den Forschern zufolge wurde X Zeit gegeben, den Inhalt automatisch zu erkennen und zu entfernen, was ihm jedoch nicht gelang. Es sei möglich, so die Studie, dass die Entscheidung von X, ab Juni explizite Inhalte zuzulassen, die Erkennung von NCII erschwert habe, wie einige Experten vorhergesagt hatten.
Um das Problem zu beheben, schlugen die Forscher vor, dass sowohl „größere Plattform-Rechenschaftspflicht“ als auch „rechtliche Mechanismen zur Gewährleistung dieser Rechenschaftspflicht“ erforderlich seien – ebenso wie viel mehr Forschung zu den Mechanismen anderer Plattformen zur Entfernung von NCII.
„Ein spezielles „NCII-Gesetz“ muss die Rechte von Opfern und Hinterbliebenen klar definieren und Plattformen rechtliche Verpflichtungen auferlegen, um bei der Entfernung schädlicher Inhalte schnell zu handeln“, kam die Studie zu dem Schluss.
