USA

„Taylor wants you to vote“ - mit der Wahrheit gegen Misinformation

„I accept“ schreibt Trump in seinem truth social Post. Zu sehen ist ein KI-generiertes Bild von Taylor Swift im Stil von Uncle Sam. Auf dem Bild steht „Taylor wants you to vote for Donald Trump.” Der Post belebt eine Debatte wieder, die in den letzten Monaten – zumindest mit Blick auf die US-Wahlen – kaum mehr Aufmerksamkeit bekam. Die letzten Monate waren geprägt von Memes und Zoom fund raising rallies, nicht von KI-manipulierten Bildern oder Robo-Calls mit Trump‘s oder Harris‘ Stimme.

Fake Trump Supporter und Storm-2035

Schaut man jedoch genau hin, findet man eine Manipulation der Online-Debatte aber sehr wohl. So zum Beispiel bei Luna, welche sich auf der Onlineplattform X, ehemals Twitter, als “MAGA Trump supporter” aus Wisconsin bezeichnet. In ihrem Profil wirbt Luna für die Wiederwahl Trumps und streut Verschwörungsmythen über seine Opponent Harris. Aber Luna gibt es nicht. Die Fotos gehören der 32-jährigen Debbie Nederlof, welche in Trier lebt und selbst keine politischen Meinungen zum Wahlkampf in den USA postet. Ihre fake Doppelgängerin Luna ist mit ihren Pro-
Trump Inhalten dagegen so erfolgreich, dass ihr sogar der republikanische Senator Doug Mastriano aus Pennsylvania folgt. In einer Recherche hat CNN bei 56 Pro-Trump Profilen unauthentisches Verhalten erkennen können, darunter 17 Profile wie das von Luna mit Fotos gestohlen von europäischen Frauen. Neben gestohlenen Fotos finden sich dort auch KI-generierte oder manipuliert Bilder, um MAGA (Make America Great Again) Elemente hinzuzufügen.

OpenAI hat zudem im August eine Desinformationskampagne, bei der ChatGPT genutzt wurde, aufgedeckt. Die Kampagne, die OpenAI „Storm-2035“ getauft hat, kommt aus dem Iran. Der Textgenerator wurde laut OpenAI dazu genutzt Artikel und Kommentare für Websites und Social Media zu einem breiten Themenspektrum zu verfassen. Diese waren sowohl konservativ als auch progressiv und reichten vom US-Wahlkampf, über Debatten um die schottische Unabhängigkeit und den Krieg in Gaza. Der Iran ist nicht das einzige Land, welches sich ChatGPT bedient hat. Bereits im Mai veröffentlichte OpenAI einen Report, der zeigt, dass auch staatliche Akteure aus Russland, China, dem Iran und ein privates Unternehmen aus Israel ChatGPT für Einflusskampagnen genutzt haben. In allen Fällen haben die Kampagnen laut OpenAI es nicht geschafft, Fuß zu fassen, und die KI-Tools schienen weder ihre Reichweite noch ihren Einfluss erweitert zu haben.

Wo ist die KI, von der alle sprachen?

Grundsätzlich scheint KI jedoch noch eine weniger große Rolle zu spielen, als viele befürchtet haben. Viele KI-Start-ups in den USA haben Schwierigkeiten ihre Produkte zu verkaufen. Während Anrufe von KI-generierten Stimmen wesentlich günstiger sind als von Menschen, perfekt geschult werden können auf die politischen Positionen der Politiker und Politikerinnen und tausende Anrufe gleichzeitig machen können, werden sie nicht genutzt. Denn Wählerinnen und Wähler suchen im Wahlkampf vor allem eins: Authentizität. Beginnt ein Anruf mit dem Disclaimer, dass er KI-generiert ist, legen fast alle auf. Hinzu scheint ein "Ick-Faktor" zu kommen, der zumindest zum Teil auch kulturell bestimmt ist. Das indische Unternehmen Personaliz.ai hat für den Wahlkampf vor Ort mit über 30 Politikerinnen und Politikern zusammengearbeitet, um Videos zu generieren, indenen KI-Versionen der Politikerinnen und Politiker auf LinkedIn mit Wählerinnen interagiert haben. Die Nutzung von neuen Technologien wurde dort als innovativ angesehen und positiv aufgenommen. In Europa und den USA sei das Unternehmen, laut CEO Thota, noch nicht auf Interesse gestoßen: „Die Menschen in den USA sind der Technologie skeptisch gegenüber“. Genutzt werden stattdessen, laut Sheera Frenkel von der New York Times, vor allem KI-Applikationen, die nicht als solche von der Öffentlichkeit erkannt werden: Textgenerierung für personalisierte Emails oder Organisation von Excel-Listen. Das läge vor allem daran, dass die Unternehmen, die diese Services anbieten Verschwiegenheitsvereinbarungen (NDAs) mit den Wahlkampfteams unterzeichnen. Die Sorge davor, unauthentisch zu erscheinen und so
Wählerstimmen zu verlieren, ist groß.

Deepfakes – eine Gefahr vor allem für Frauen

Viele der Tech-Unternehmen sind sich ihrer Verantwortung, die sie im Wahlkampf tragen, bewusst. Google hat zum Beispiel neue Sicherheitsmaßnahmen für seine KI-Produkte eingeführt. Google hatte bereits zuvor angekündigt, Anfragen an seine Gemini-KI, die sich auf Wahlen beziehen, zu beschränken. Nun werden auch andere Produkte, wie KI-generierte Suchübersichten und Zusammenfassungen auf YouTube, strikteren Vorgaben unterliegen. Microsoft hat bereits im Juli den US- Kongress dazu aufgerufen, die Nutzung von Deepfakes zu regulieren. Dieser tat dies zuletzt, jedoch zunächst nur für Deep Nudes. Betroffene haben nun im Rahmen des DEFIANCE Acts die Möglichkeit, zivilrechtliche Schritte gegen Personen einzuleiten, die mit der Absicht, sexuell explizite Bilder von ihnen zu verbreiten, diese erstellt oder bearbeitet haben. Deepfake Porn ist weltweit ein zunehmendes Problem, was besonders Frauen betrifft. In Korea wurden gerade erst eine Reihe an Chatgruppen bei Telegramm entdeckt, wo explizite Deepfakes von Frauen an Universitäten, aber auch Mädchen an Schulen geteilt wurden.

Auch Swift war Opfer von expliziten Deepfakes. X wurde im Januar mit manipulierten und generierten Bildern von Taylor Swift geflutet. Obwohl dies gegen die Richtlinien der Plattformen verstieß, reagierte diese sehr spät und löschte Inhalte zum Teil erst nach 17 Stunden. Während Swift sich damals nicht direkt zu den Bildern äußerte, meldet sich ihr Team und kündigte an, eventuell rechtlich gegen die Website, die diese zuerst veröffentlichte, vorzugehen. Vielleicht auch deshalb erwarteten viele ihrer Fans auch eine schnelle Aussage zu Trumps Post. Swift hat sich nun nach der ersten Debatte zwischen Harris und Trump geäußert. In einem Instagram Post schrieb Swift, sie werde Harris und Walz wählen und rief ihre Fans dazu auf, sich selbst gut über die jeweiligen Standpunkte der Kandidierenden zu informieren und sich rechtzeitig zu registrieren. Ihr Mobilisierungspotential ist enorm und ihre Fans diverser als viele denken. Während über die Hälfte ihrer Fans sich als Demokraten bezeichnen, bekennen sich 23% zu den Republikanern und 23% bezeichnen sich als Independent.

Swift adressierte in ihrem Post auch das Fake von ihr als Uncle Sam: „Es hat wirklich meine Ängste vor KI und den Gefahren der Verbreitung von Fehlinformationen geweckt“ (original: „It really conjured up my fears around AI, and the dangers of spreading misinformation“). Gegen Misinfomation helfe nur die Wahrheit, auch deswegen sei sie nun so transparent. Trump zeigte sich auf eine Nachfrage bezüglich der Bilder nicht sonderlich besorgt, denn nicht er, sondern andere hätten diese generiert.