Auf TikTok wünscht sich Alice Weidel nichts lieber als einen Köftespieß. Kanzler Olaf Scholz ist Bodybuilder und tanzt zu Popmusik. Markus Söder erteilt Karl Lauterbach mit einem Schlagersong endgültig „Bayern Verbot“.

Dabei handelt es sich um Deepfakes. Das sind mit sogenannter künstlicher Intelligenz manipulierte Medien wie Bilder, Audios oder Videos. Für die Herstellung von Deepfakes gibt es ein breites Angebot relativ einfach zu bedienender Programme.

Was früher Satirezeitschriften wie der Titanic mit ihren berüchtigten Titelbildern vorbehalten war und guter Skills in Photoshop bedurfte, kann heute jede:r in wenigen Minuten selber machen: Mit Deepfakes die mächtigsten Politiker:innen des Landes vorführen. Das ermöglicht eine niedrigschwellige politische Partizipation auf sozialen Medien durch die Nutzer:innen – und birgt dennoch Gefahren.

Verschiedene Ziele und Formen

Deepfakes haben im Netz unterschiedliche Ausprägungen. Sie verbreiten sich in Foren und sozialen Medien als Memes, dienen ihren Ersteller:innen als Instrumente für Satire, Propaganda, Desinformation oder sind digitale Gewalt, insbesondere gegen Frauen.

Schwerwiegende Deepfakes mit dem Ziel der politischen Täuschung sind bisher von Nutzer:innen und Journalist:innen relativ schnell entlarvt worden. Plattformen wie YouTube oder Instagram haben die Videos daraufhin entfernt.

Zu Beginn des russisch-ukrainischen Krieges kursierte auf YouTube und Instagram kurzzeitig ein Deepfake-Video des ukrainischen Präsidenten. Darin rief ein vermeintlich realer Volodymyr Selenskyj die Ukrainer:innen zur Kapitulation auf. Der echte Selenskyj konterte die Fälschung nach wenigen Minuten mit einem authentischen Video.

Ein weiterer Deepfake zeigte einen französischen Autohändler, der berichtete, dass Olena Zelenska, Selenskyjs Ehefrau, ein Luxusauto im Wert von knapp fünf Millionen Euro von ihm gekauft hatte. Laut dem Nachrichtensender CNN war der Deepfake Teil einer russischen Desinformationskampagne.

Dagegen ist die Masse an Deepfakes aus der deutschen Politik leicht als Fälschung zu identifizieren. Auch Künstler:innen und Content Creator:innen nutzen hierzulande die Technologie, um gesellschaftliche Debatten anzustoßen und Aufmerksamkeit zu generieren.

Einen realistischen Deepfake von Olaf Scholz, der darin ein Verbot der AfD forderte, hatte das Landgericht Berlin Anfang dieses Jahres verboten. Prinzipiell gehen Gesetzgeber und Plattformen verstärkt gegen Deepfakes vor.

Regulierung von „realistisch“ wirkenden Deepfakes

Kürzlich hat der Bundesrat ein neues Gesetz gegen Deepfakes vorgelegt, das ihre Verbreitung unter Strafe stellen soll. TikTok „ermutigt“ seine Creator:innen in den Community-Richtlinien, KI-generierte Inhalte zu kennzeichnen. Auf YouTube müssen alle „manipulierten oder synthetischen“ Inhalte, „die realistisch wirken“, gekennzeichnet werden.

Facebook und Instagram verpassen KI-generierten Inhalten das Label „KI-Info“, insofern die Plattform-internen Systeme die Nutzung von KI erkennen. Die Creator:innen sind auch verpflichtet, Inhalte als KI-generiert zu kennzeichnen, wenn sie „fotorealistisches Video- oder realistisch klingendes Audiomaterial enthalten, das digital erstellt oder bearbeitet wurde – einschließlich mit KI“.

Die offiziellen Richtlinien der Plattformen lassen anscheinend einen gewissen Spielraum. Von Olaf Scholz existieren etliche Deepfakes, die sich mitunter seit Monaten auf TikTok befinden und ohne Kennzeichnung auskommen. Dabei garantiert auch eine Kennzeichnung nicht, dass alle Zuschauer:innen den Unterschied zwischen Realität und Fake erkennen.

Wann ist ein Deepfake politisch?

Zwar hat TikTok bereits die Funktionen für Accounts von politischen Akteuren wie Regierungen, Politiker:innen und Parteien eingeschränkt. Deepfakes und Memes werden jedoch meist von privaten Accounts hochgeladen und verbreitet.

Ein ungekennzeichneter Deepfake mit dem Titel „Alice Weidel spricht arabisch“ hat rund eine Million Aufrufe. Die Mehrheit der Kommentare zeigen Gutgläubigkeit und Sympathie der Zuschauer:innen gegenüber Weidel: „Sie ist hallt [sic] gebildet und kennt bestimmt noch mehr Sprachen“, „Die neue Bundeskanzlerin halt“ oder „Super Aussprache 💙💙💙“.

Selbst wenn Deepfakes durch Wasserzeichen und Hashtags gekennzeichnet sind, scheinen die Fälschungen vielen Nutzer:innen nicht aufzufallen. Auch sehen die Fans von Alice Weidel im Deepfake womöglich gar keinen Widerspruch mit ihrer eigenen Realität. Für sie sind die manipulierten Videos lediglich Meinungsverstärker.

In der Politisierung des Contents sehen die Plattformen wohl eine Gefahr für ihre Geschäftsmodelle. TikTok, Instagram und Threads haben angekündigt, ihre Algorithmen zu verändern und wollen weniger politische Inhalte anzeigen.

Was dabei als „politisch“ gelten soll, ist bisher noch unklar. Die Deepfakes von Weidel, Söder und Co. wirken im Vergleich mit den gefälschten Selenskyj-Videos eher harmlos. Dennoch steckt mehr als nur flaches Entertainment hinter den Deepfakes.

Traditionelle rechte Propagandataktik

In einem Interview mit Michael Lewis von Bloomberg sagte Steve Bannon, Donald Trumps ehemaliger Chefberater und Medienmanager: “The real opposition is the media. And the way to deal with them is to flood the zone with shit”. Laut Jonathan Rauch, Buchautor und Journalist, gehe es dabei nicht um politische Überzeugung, sondern um politische Verwirrung.

Deepfakes sind ein ausgezeichnetes Instrument, um Verwirrung zu stiften – ein klassisches Mittel rechter Propagandataktik und bezeichnend für den Politikstil von Trump und anderer rechter Populist:innen.

Gradmesser für politische Stimmung

Mit wenigen Klicks fällt auf, dass im Feed auf TikTok Deepfakes dominieren, die Politiker:innen der Grünen, insbesondere Annalena Baerbock, Ricarda Lang und Robert Habeck sowie SPD-Kanzler Olaf Scholz zu ihrem Nachteil remixen.

Darüber hinaus zeigt eine aktuelle Studie, inwiefern der Algorithmus von TikTok AfD-nahe Inhalte bevorzugt. Die Ampelparteien kommen also auf ganzer Linie sehr schlecht weg. Dabei böten AfD-Politiker:innen wie Maximilian Krah mit seinem gewohnt schlecht sitzenden Anzug und der charakteristischen 10-Euro-Frisur eigentlich ausgezeichnete Vorlagen für Meme- und Deepfakemacher:innen.

Solange es keinen kreativen Gegenpol zur TikTok-Dominanz rechter Inhalte gibt, heißt es wohl weiterhin: The left can’t meme. Dabei gibt es guten Grund, sich von TikTok fernzuhalten. Das Unternehmen steht nicht nur wegen fehlendem Datenschutz in der Kritik.

Keine Panik

Raushalten scheint leider keine Alternative zu sein. Aus Angst vor der Übermacht der AfD rüsten die Altparteien nun auch bei TikTok auf. An Deepfakes und Memes traut sich das „teambundeskanzler“ noch nicht heran.

Falls die politischen Akteure die auf sozialen Medien geführte Schlammschlacht, die allzu häufig unter der Gürtellinie ausgetragen wird, gleichermaßen brutal gestalten, könnte sich der Netzdiskurs in Deutschland einem amerikanisch-inhaltsfeindlichen Modell annähern. Das dürfte ganz im Sinne Steve Bannons sein.

Letztendlich lassen sich auch die politischen Deepfakes in ästhetische Kategorien einordnen. Als kreatives Satire-Tool können sie mitunter witzige, durchdachte und dennoch politisch spitze Inhalte vermitteln. Das beweist der Instagram-Kanal „Schlantologie“, der laut Kanalinfo „KI-Satire aus eigenem Anbau“ betreibt.

Deepfakes sind ähnlich wie Memes ein effizientes Kommunikationsmittel auf sozialen Medien und fungieren als Sprachrohr für politischen Aktivismus.

Misstrauen in soziale Medien ist nötig

Nun dienen soziale Medien seit jeher den kommerziellen Interessen von Unternehmen mehr als dem Gemeinwohl der Gesellschaft. Ihre Architektur bestimmt maßgeblich, was die Nutzer:innen sehen. Solange Klicks für Geld und Reichweite sorgen, sind polarisierende Inhalte im Vorteil.

Noch lohnen sich performativer Rassismus und hochemotionaler Content, ob Deepfake oder Meme. Dafür bilden die sozialen Medien glücklicherweise nur einen Teil des gesamtgesellschaftlichen Diskurses ab.

Für manche Bereiche wie der bildbasierten sexualisierten Gewalt durch Deepfakes wird es intelligente Regulierung brauchen, die auch die Profiteure in der Tech-Industrie in die Pflicht nimmt. Doch bei künstlerischen und aktivistischen Deepfakes könnte eine voreilige Regulierung wie zuletzt im Bundesrat mehr schaden als helfen.

Denn schon vor der Verbreitung von Deepfakes war eine grundlegende Skepsis gegenüber Inhalten im Internet angebracht. Im besten Fall sind die Nutzer:innen durch die Deepfakes zukünftig noch stärker gezwungen, ihren Blick für Fälschungen zu schärfen. Und eigentlich ist es auch gar nicht so schwer: Oft hilft eine kurze Internetsuche beim Enttarnen von Desinformation.

Grundlegend braucht es von der Grundschule an mehr Vermittlung von Medienkompetenz statt Panik und voreiliger Verbote, welche die Nutzung ganzer Technologien unter Strafe stellen.

Wer ernsthaft glaubt, dass Alice Weidel im Bundestag ihre Reden auf Russisch oder Arabisch hält, kann auch mit anderen Mitteln als Deepfakes hinter das Licht geführt werden.