Ein neues Gesetz, das ab sofort in Kraft tritt, macht die Erstellung und Veröffentlichung von wahlbezogenen Deepfakes 120 Tage vor dem Wahltag und 60 Tage danach illegal.
Der Gouverneur von Kalifornien, Gavin Newsom, unterzeichnete am Dienstag drei Gesetzentwürfe, um gegen den Einsatz künstlicher Intelligenz zur Erstellung falscher Bilder oder Videos in politischen Anzeigen im Vorfeld der Wahlen 2024 vorzugehen.
Ein neues Gesetz, das sofort in Kraft treten soll, macht es illegal, wahlbezogene Deepfakes 120 Tage vor dem Wahltag und 60 Tage danach zu erstellen und zu veröffentlichen. Es erlaubt Gerichten außerdem, die Verbreitung des Materials zu stoppen und zivilrechtliche Strafen zu verhängen.
„Die Wahrung der Integrität von Wahlen ist für die Demokratie von wesentlicher Bedeutung, und es ist entscheidend, dass wir sicherstellen, dass KI nicht eingesetzt wird, um das Vertrauen der Öffentlichkeit durch Desinformation zu untergraben – insbesondere im heutigen angespannten politischen Klima“, sagte Newsom in einer Erklärung. „Diese Maßnahmen werden dazu beitragen, den schädlichen Einsatz von Deepfakes in politischen Anzeigen und anderen Inhalten zu bekämpfen, einem von mehreren Bereichen, in denen der Staat proaktiv ist, um transparente und vertrauenswürdige KI zu fördern.“
Große Social-Media-Plattformen sind außerdem verpflichtet, das irreführende Material zu entfernen. Dies ist ein landesweites Gesetz, das nächstes Jahr in Kraft treten soll. Newsom unterzeichnete außerdem ein Gesetz, das politische Kampagnen dazu verpflichtet, öffentlich bekannt zu geben, ob sie Anzeigen mit von KI verändertem Material schalten.
Der Gouverneur unterzeichnete die Gesetzesentwürfe unter lautem Applaus während eines Gesprächs mit Marc Benioff, dem CEO von Salesforce, bei einer Veranstaltung, die das große Softwareunternehmen im Rahmen seiner Jahreskonferenz in San Francisco ausrichtete.
Die neuen Gesetze bekräftigen Kaliforniens Vorreiterrolle bei der Regulierung von KI in den USA, insbesondere im Kampf gegen Deepfakes bei Wahlen. Der Bundesstaat war der erste in den USA, der 2019 manipulierte Videos und Bilder im Zusammenhang mit Wahlen verbot. Die von kalifornischen Gesetzgebern vorgeschlagenen Maßnahmen in den Bereichen Technologie und KI dienten Gesetzgebern im ganzen Land als Blaupause, sagten Branchenexperten.
Da KI die Gefahr der Desinformation über Wahlen weltweit verstärkt, haben sich Gesetzgeber im ganzen Land mit der Problematik befasst, weil sie befürchten, dass die manipulierten Materialien das Vertrauen der Öffentlichkeit in das, was sie sehen und hören, untergraben könnten.
„Da es weniger als 50 Tage bis zur allgemeinen Wahl sind, besteht dringender Bedarf an Schutz vor irreführenden, digital veränderten Inhalten, die die Wahl beeinflussen können“, sagte Abgeordnete Gail Pellerin, Autorin des Gesetzes zum Verbot von Wahl-Deepfakes, in einer Erklärung. „Kalifornien bezieht Stellung gegen den manipulativen Einsatz von Deepfake-Technologie zur Täuschung von Wählern.“
Newsoms Entscheidung folgte auf sein Versprechen im Juli, gegen Wahl-Deepfakes vorzugehen, als Reaktion auf ein von X-Eigentümer Elon Musk gepostetes Video mit veränderten Bildern der Vizepräsidentin und demokratischen Präsidentschaftskandidatin Kamala Harris.
Die neuen kalifornischen Gesetze kommen am selben Tag, an dem Mitglieder des Kongresses ein Bundesgesetz zur Unterbindung von Wahlfälschungen vorlegten. Das Gesetz würde der Bundeswahlkommission die Befugnis erteilen, den Einsatz von KI bei Wahlen auf die gleiche Weise zu regulieren, wie sie seit Jahrzehnten andere politische Falschdarstellungen reguliert. Die FEC hat begonnen, über derartige Regelungen nachzudenken, nachdem sie im Februar KI-generierte Robocalls zur Abschreckung von Wählern verboten hatte.
Newsom lobte Kalifornien als einen der ersten Anwender und Regulatoren von KI. Er sagte, der Staat könne schon bald generative KI-Tools einsetzen, um die Verkehrsstaus auf Autobahnen zu reduzieren und Steuerberatung anzubieten. Gleichzeitig erwäge seine Regierung neue Vorschriften gegen die Diskriminierung von KI-Betroffenen bei Einstellungsverfahren.
Darüber hinaus unterzeichnete er am Dienstag zwei weitere Gesetzesentwürfe zum Schutz von Hollywood-Darstellern vor dem unerlaubten Einsatz künstlicher Intelligenz ohne ihre Zustimmung.
