Das neueste Gesetz Kaliforniens könnte Social-Media-Nutzer, die KI-Deepfakes posten oder reposten, die Wähler über bevorstehende Wahlen täuschen, in rechtliche Schwierigkeiten bringen. Gouverneur Gavin Newsom deutet an, dass AB 2839, das unmittelbar nach seiner Unterzeichnung am Dienstag in Kraft trat, dazu verwendet werden könnte, Elon Musks Retweets und andere, die irreführende Inhalte verbreiten, einzufangen.
„Ich habe gerade ein Gesetz unterzeichnet, das dies im Bundesstaat Kalifornien illegal macht“, sagte Newsom in einem twitternmit Bezug auf eine KI Deepfake Musk hat Anfang des Jahres erneut gepostetund es schien, als hätte Kamala Harris sich selbst als inkompetente Kandidatin und als jemanden bezeichnet, der auf Vielfalt setzt (was sie nicht tat).
„Sie können nicht mehr wissentlich eine Anzeige oder andere Wahlkommunikation verbreiten, die materiell irreführende Inhalte enthält – einschließlich Deepfakes“, sagte Newsom später in dem Tweet.
Das neue Gesetz Kaliforniens zielt auf die Verbreiter von KI-Deepfakes ab, insbesondere wenn der Beitrag einem Kandidaten auf kalifornischen Wahlzetteln ähnelt und der Verfasser weiß, dass es sich um eine Fälschung handelt, was zu Verwirrung führen wird. AB 2839 ist einzigartig, weil es weder die Ersteller von KI-Deepfakes noch die Plattformen, auf denen sie erscheinen, verfolgt, sondern diejenigen, die sie in böswilliger Absicht verbreiten. Jeder, der einen KI-Deepfake in sozialen Medien sieht, kann nun eine einstweilige Verfügung beantragen, d. h. ein Richter kann den Verfasser anweisen, ihn zu entfernen, oder Schadensersatz gegen die Person verhängen, die ihn gepostet hat.
Es handelt sich um eines der strengsten Gesetze Amerikas gegen wahlbezogene KI-Deepfakes im Vorfeld der Präsidentschaftswahlen 2024.
Ein Sponsor, der an der Ausarbeitung von AB 2839 mitgewirkt hat, die California Initiative for Technology and Democracy (CITED), erklärt gegenüber TechCrunch, dass dieses Gesetz jeden Social-Media-Nutzer – nicht nur Musk – treffen kann, der wahlbezogene KI-Deepfakes mit böser Absicht postet oder repostet. „Böswillig“ bedeutet, dass der Verfasser wusste, dass es sich um eine Fälschung handelte und die Wähler verwirren würde.
„(AB 2839) verfolgt die Ersteller oder Verbreiter von Inhalten, wenn die Inhalte unter die Bedingungen des Gesetzes fallen“, sagte Leora Gershenzon, Policy Director von CITED, in einem Interview mit TechCrunch. „Dies sind materiell irreführende Inhalte, die in dem Wissen verbreitet werden, dass sie falsch sind, und die Wahrheit rücksichtslos missachten. Sie werden wahrscheinlich die Wahl beeinflussen.“
Auf die Frage, ob gegen Musk wegen des erneuten Postens von Deepfakes rechtliche Schritte eingeleitet werden könnten, schloss Newsom diese Möglichkeit nicht aus.
„Ich denke, Herr Musk hat die Pointe verpasst“, sagte Gouverneur Newsom bei einer Pressekonferenz Donnerstag. „Parodien sind in Kalifornien noch immer lebendig und gesund, aber Deepfakes und Wahlmanipulationen – das schadet der Demokratie.“
Konkret verbietet das neue Gesetz wahlbezogene KI-Deepfakes aus Fernsehen, Radio, Telefon, Textnachrichten oder jeglicher Kommunikation, die „über das Internet verbreitet“ wird. Das Gesetz beschränkt sich nicht nur auf politische Wahlkampfanzeigen, auf die sich andere Gesetze konzentriert haben, sondern auch auf Posts von ganz normalen Menschen. AB 2839 schafft ein Zeitfenster – 120 Tage vor einer Wahl in Kalifornien und 60 Tage danach –, in dem strengere Regeln gelten, was man in sozialen Medien über politische Kandidaten posten darf und was nicht.
„Das eigentliche Ziel ist eigentlich weder der Schadenersatz noch die Unterlassungsverfügung“, sagte Gershenzon. „Es geht nur darum, dass die Leute es gar nicht erst tun. Das wäre eigentlich das beste Ergebnis … nur damit diese Deepfakes unsere Wahlen nicht betrügerisch beeinflussen.“
Dieses Gesetz gilt für Kandidaten für die Landtags- und Kommunalwahlen in Kalifornien sowie für Bundeskandidaten, die auf dem Wahlzettel Kaliforniens erscheinen werden, wie Kamala Harris und Donald Trump. Wenn es auf einem KI-Deepfake einen offensichtlichen Haftungsausschluss gibt, der besagt, dass er digital verändert wurde, dann gilt AB 2839 nicht dafür.
Musk versucht bereits, den Willen zur Durchsetzung des neuen kalifornischen Gesetzes zu testen. Musk hat den Deepfake erneut gepostet ähnelt Kamala Harris, auf die sich Newsom in seinem Tweet am Dienstag bezog, und sammelte mehr als 31 Millionen Impressionen auf X. Musk auch hat einen KI-Deepfake erneut gepostet ähnelte Gouverneur Newsom am Mittwoch und erhielt mehr als 7 Millionen Aufrufe.
Musk und X stehen vor weiteren rechtlichen Problemen im Zusammenhang mit der Moderation. So sagte beispielsweise ein Richter des brasilianischen Obersten Gerichtshofs verhängte eine Geldstrafe gegen die X Corporation am Donnerstag, weil X das landesweite Verbot der Plattform umgangen hatte. Der Richter hatte zuvor erklärt, dass das Versäumnis von X, Fake News und Hassreden zu bekämpfen, der brasilianischen Demokratie schade.
