Berlin Republica 2025: Ingrid Brodnig über KI, Deepfakes und Strategien zur Erkennung
Desinformationen und Deepfakes fluten die sozialen Medien - und zielen vor allem auf eines ab: Emotionen. Denn wer wütend oder empört ist, ist weniger empfänglich für Argumente. Das machen sich Medien und Politik zu nutze. Aber Ingrid Brodnig kennt Strategien dagegenn.
rbb: Frau Brodnig, Sie sind auf der diesjährigen Republica in Berlin zu Gast. Was sind Ihre Themen?
Ingrid Brodnig: Ich werde darüber sprechen, wie für unterschiedliche Generationen unterschiedliche Falschmeldungen gemacht werden und dort erfolgreich sind. 13-Jährige folgen zum Beispiel oft nicht der klassischen Innenpolitik. Die haben andere Themen. Da gibt es Gerüchte, die sich auf TikTok verbreiten, etwa zum National Rape Day. Dort heißt es, an diesem Tag dürften Männer Frauen oder Mädchen vergewaltigen. So als wäre das quasi erlaubt. Und daran sieht man: Falschmeldungen müssen an die Lebensrealität von Menschen anknüpfen. Weil Junge und Ältere aber teilweise andere Lebensrealitäten haben, sind die Falschmeldungen, die Erzählungen und natürlich auch die Kanäle, auf denen das stattfindet, unterschiedlich.
Social Media ist eine eigene Welt, auch was Fake News und Desinformationen angeht. Und die Lemminge folgen. Wie kommt das?
Wir Menschen haben oft eine Haltung. Wir haben Wünsche oder auch Ängste. Und Falschmeldungen, egal ob im Internet oder außerhalb, sind so gestrickt, dass sie den Menschen kapern. Zum Beispiel, wenn man sich bereits finanzielle Sorgen macht – und dann noch die Klimakrise dazukommt. Folglich macht man sich noch mehr Sorgen, was das für die eigene Zukunft heißen könnte. Und dann kommt eine Falschmeldung, dass es den Klimawandel gar nicht gibt. Das ist eine Erfindung von irgendwelchen unseriösen Forschenden. Viele Falschmeldungen und unseriöse Erzählungen im Internet geben mir Struktur. Diese Mischung aus neuen Medien, die mir simple Geschichten liefern, und die tatsächliche Verunsicherung ist das Gefährliche. Also Mensch und Maschine spielen da zusammen.
Wir haben aber immer noch eine gemeinsame Grundlage: Fakten. Also wir sind uns einig, dass es nur eine Wirklichkeit gibt. Aber wenn wir Deepfakes dazunehmen, fängt diese gemeinsame Grundlage an zu schwimmen, oder?
Deepfakes sind eigentlich in zweierlei Hinsicht gefährlich. Damit sind in der Regel Videos gemeint, die auf den ersten Blick echt aussehen, aber eigentlich eine Erfindung von Künstlicher Intelligenz (KI) sind. Man sieht zum Beispiel Selenskyj [ukrainischer Staatspräsident, Anm. d. Red.] sprechen, aber in Wirklichkeit ist es ein erfundenes Video, in dem sein Gesicht quasi draufgelegt oder ein fremder Text erfunden wurde. Die Gefahr ist, dass Menschen etwas für real halten, was nie passiert ist, und zum Beispiel Politikerinnen und Politiker verächtlich gemacht werden.
Diese sehr starken Video-KI-Fakes, die Deepfakes, sind noch nicht so häufig, aber wir haben eine Unterstufe dieser Form von Fakes: die Stimmen-Fakes. Die können mittlerweile sehr leicht Stimmen von jemandem nachmachen. In Großbritannien war es so, dass von Keir Starmer, damals Labour-Chef, jetzt auch Regierungschef, eine Tondatei aufgetaucht ist, die den Eindruck vermittelte, er hätte sein Personal zur Schnecke gemacht. Aber diese Tondatei ist wohl eine Fälschung und man vermutet KI. Das heißt, ich kann einerseits Leute nochmal zusätzlich beschädigen, und andererseits ist hier die Realität insgesamt gefährdet.
Wir haben neuerdings Debatten darüber, dass etwas Reales passiert ist und beeindruckende Bilder davon geteilt werden, und plötzlich sagt jemand: Das ist ein Deepfake oder das hat KI erstellt. Ein Beispiel: Wir hatten Fotos von großen Demonstrationen in Deutschland, nachdem "Correctiv" dieses geheime Treffen aufgezeigt hat, bei denen AfD-Leute und auch Rechtsextreme dabei waren. Doch dann hat eine Person online so ein Foto genommen und suggeriert: Das hat eine KI erstellt, so viele Leute waren da gar nicht. KI macht es noch einmal leichter, dass wir den gemeinsamen Boden der Realität verlieren - und das ist gefährlich.
Wem nützt das? Wer kann besonders von vielen Klicks profitieren?
Es gibt den sehr zutreffenden Begriff der Polarisierungsunternehmer. Das können Medien sein, aber auch Politikerinnen oder Politiker sowie andere Personen. Es können Parteien sein, die sehr populistisch bis extremistisch sind, die also von einer Spaltung profitieren, weil Leute mehr an die Ränder in eine sehr heftige Einstellung hineingedrückt werden. Das können aber auch Medien sein, die vielleicht eine politische Haltung haben, aber auch einfach Klicks haben wollen. Und auf Social Media ist es leider so, dass ich sehr viel moralische Empörung und Zuspruch von Gleichdenkenden mitbekomme. Aber gesellschaftlich ist es schlecht, wenn wir in Debatten sofort in moralischer Empörung landen. Themen wie die Klimakrise oder auch andere politische Fragen sollte man ja irgendwie in einer Art Schulterschluss lösen können. Aber wenn moralische Empörung so schnell erzeugt wird, kann man nicht mehr so leicht miteinander reden.
Empörung wird viel geliked oder auf Social-Media-Kanälen weiterverbreitet. Wenn man also als Nutzer:in in den digitalen Welten unterwegs ist, könnte man leicht auf die Idee kommen: Das ist ja die Mehrheit, die so denkt.
Genau. Wir erleben oft Debatten, wo es so scheint, als würden sich sehr radikal diametral zueinander stehende Lager dauernd widersprechen und als gäbe es wenig Raum dazwischen. Das wird durchaus auch mit manch einem clickbaitigen Journalismus angetrieben - also nicht nur von Social Media.
Ich erinnere mich an eine Geschichte der "Bild"-Zeitung, in der die Deutsche Gesellschaft für Ernährung, die Empfehlungen, wie viel Fleisch man essen soll, nach unten schrauben will. Die "Bild" hätte einen unaufgeregten Text bringen können: DGE will weniger Fleischessen empfehlen. Aber das hätte vielleicht nicht so viel Aufmerksamkeit erzeugt. Sie haben sinngemäß als Überschrift gebracht: Nur noch eine Wurst pro Monat für jeden. Das hat natürlich sofort für wütende Postings und auch Beleidigungen gesorgt. Hier wird der Eindruck erweckt, mir nimmt jemand etwas weg. Das aktiviert die Leute. Wenn ich mich in so einer harten Online-Debatte befinde, habe ich vielleicht den Eindruck, da gibt es nur noch die, die sich am liebsten ausschließlich von Fleisch ernähren würden und mit sehr viel Wut über dieses Thema posten und die genau anders Gelagerten, die vielleicht auch schon vegan leben. Dass was wir online erleben, ist halt kein Durchschnitt der Debatte. Die Gefahr ist, dass wir online einen verzerrten Eindruck bekommen, dass sich Deutschland unversöhnlich gegenübersteht. Schaut man sich aber sehr viel repräsentativere wissenschaftliche Umfragen an, merkt man: Viele stehen irgendwo in der Mitte.
Was kann ich tun, wenn ich der Problemzone digitaler Raum entgehen will? Gibt es Strategien - auch gegen Desinformation - oder bin ich dem hilflos ausgeliefert?
Zuallererst sollte man nachdenken: Stimmt das überhaupt? Manch eine Geschichte, die einen wütend macht, zielt in unterschiedliche Lager. Wenn man genau hinschaut, merkt man: Das stimmt ja so gar nicht. Dann kann man die eigene Wut abbremsen.
Wie überprüfe ich das denn?
Das erste ist, den Moment zu erkennen, in dem die Gefahr existiert. Zum Beispiel, wenn ich mich extrem aufrege - also starke Emotionalisierung oder das Gefühl von Bestätigung. Wenn eine Geschichte so ist, dass ich mir denke, das muss ich sofort weitererzählen, dann sollte man vorsichtig werden. Am Weltfrauentag ist zum Beispiel ein Posting geteilt worden, das suggerierte, Markus Söder, Bayerns Ministerpräsident, hätte mit einem Blumenstrauß posiert und etwas eher Ulkiges über den Weltfrauentag geschrieben. Es zeige, er verstehe nicht, worum es da geht. Das Posting war ein Fake. Den Moment zu erkennen, wo man hinschauen sollte, ist das Wichtigste. Und wenn ich mich frage: "Moment, stimmt das?", dann kann ich die angebliche Behauptung überprüfen. Die simpelste Art ist, in Google einzugeben: Markus Söder, Blumenstrauß, Weltfrauentag, Faktencheck. Indem ich das Wort Faktencheck dazuschreibe, finde ich Artikel oder Faktencheckseiten, die das schon überprüft haben. Bei Markus Söder war das der Fall. Das Zweite ist, hinschauen, wer denn der Absender oder die Absenderin ist und ob die echt sind. Aber das Wichtigste ist, zu wissen: Falschmeldungen funktionieren über Emotionalität. Sie schocken oder regen uns so auf, dass unser Nachdenkprozess kurz ausgeschaltet wird.
Aber auch in der analogen Welt gibt es Deepfakes und Desinformation, zum Beispiel den Onkel auf der Familienfeier, der Covid leugnet. Wie gehe ich damit um?
Allein, wenn ich über andere Kanäle mit Leuten rede, ist das schon gut. Wenn ich weiß, dass am Wochenende Grillfeier bei der Familie ist und dieser eine Onkel auch dort sein wird, empfehle ich erstens, sich strategisch Ziele zu setzen. Ich kann mir zum Ziel setzen, dass wenn er schon wieder irgendwelche Geschichten reinschmeißt, ich das für die anderen Anwesenden ein bisschen einordne. Ich kann also sagen: "Ja, Onkel, ich habe das neulich auch gelesen. Aber weißt du, hier gibt es diese interessante "Spiegel"-Reportage" - und dann weise ich darauf hin. Da geht es darum, mein Publikum zu identifizieren.
Zweitens ist es wichtig, im Gespräch zu bleiben und Gemeinsamkeiten zu betonen, wenn ich den Onkel trotzdem irgendwie erreichen will. Es kann zum Beispiel sein, dass der Onkel sich für Tiere einsetzt und dann kann man sagen: "Wir haben ja das und das gemeinsam gemacht; oder ich stimme dir in dem Punkt zu, dass das ein wichtiges Anliegen ist." Indem ich Gemeinsamkeit betone, kann es der Person leichter fallen, dann nachher auch die Sachen zu erkennen, wo man es anders sieht.
Eine Sache, die mir immer hilft, wenn ich mich im Gespräch überfordert fühle, sind Fragen: Woher hast du das? Warum glaubst du gerade der Person? Oder wie hängt jetzt das eine mit dem anderen zusammen? Manchmal ist die Frage für andere Leute leichter verdaubar als das Dagegenhalten. Und man gewinnt beim Fragenstellen gewinnt ein paar Sekunden Zeit, um seine eigenen Gedanken zu sortieren. Ich kann mir also kleine Strategien für Gespräche zurechtlegen, damit ich mich weniger verloren fühle.
Mit Ingrid Brodnig sprach Stephan Ozsvath für rbb24 Inforadio. Dieser Beitrag ist eine gekürzte und redaktionell bearbeitete Version. Das Originalgespräch können Sie mit Klick auf das Audiosymbol im Titelfoto des Beitrags anhören.
Sendung: rbb24 Inforadio, 23.05.2025, 13:40 Uhr
