KI-generierte Fälschungen fluten soziale Medien – wer profitiert davon?
Katherina Hermann
KI-generierte Fälschungen fluten soziale Medien – wer profitiert davon?
Soziale Medien werden immer unzuverlässiger – denn KI-generierte Inhalte verbreiten sich rasant. Von politischer Propaganda bis zu Finanzbetrug: Manipulierte Bilder und Videos verändern die Online-Debatten. Regierungen und extremistische Gruppen nutzen diese Tools mittlerweile, um die öffentliche Meinung auf immer subtilere Weise zu beeinflussen.
Ab August muss KI-generierter Content in der EU klar gekennzeichnet werden. Die neue Regelung soll Nutzern helfen, echte Beiträge von synthetischen zu unterscheiden. Die Maßnahme kommt zu einer Zeit, in der die Skepsis gegenüber Online-Inhalten stetig wächst.
In Deutschland verbreiten rechtsextreme Kreise gefälschte "Straßeninterviews". In einem Video fordert eine angeblich 18-jährige blonde Frau Massenabschiebungen – das Ganze wirkt authentisch, ist aber komplett erfunden. Selbst der Stil eines Animationsstudios, das für feministische und demokratische Themen bekannt ist, wurde kopiert, um Abschiebungen in sanfter, verharmlosender Ästhetik darzustellen.
Auch das Weiße Haus setzt auf digitale Inszenierung in seiner Social-Media-Strategie. Seit der Eskalation mit dem Iran veranstaltet es virtuelle Militärparaden im Netz. Die Kampagne zielt mit machohaften, spielerischen Visuals gezielt auf junge Männer ab. Gleichzeitig werden Popkultur-Elemente – von Comic-Grafiken bis zu rechtsextremen Memes – für politische Botschaften zweckentfremdet.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
KI wird nicht nur für Politik missbraucht. Betrüger setzen auf gefälschte Figuren, etwa Rabbiner, die fragwürdige Finanztipps geben oder dubiose E-Books verkaufen. Dieselben Tools, die Vorurteile und Stereotype verbreiten, generieren auch künstliche Zielgruppen – für Profit. Katharina Nocun, Forscherin zu Desinformation, warnt: Diese Taktiken nutzen bestehende Vorurteile aus, um Klicks und Geld zu machen.
Die deutsche Regierung hat sich bisher von populistischen KI-Fälschungen ferngehalten, doch demokratische Parteien experimentieren inzwischen mit KI in ihren Social-Media-Posts. Die Grenze zwischen echtem Content und Manipulation verschwimmt schneller denn je.
Bald müssen KI-Inhalte in der gesamten EU gekennzeichnet werden. Doch die Herausforderung bleibt: Wie erkennt man Fälschungen, wenn Regierungen, Extremisten und Betrüger dieselben Tools nutzen? Für Nutzer wird es immer schwieriger, im Netz Fakt von Fiktion zu trennen. Die Folgen für das öffentliche Vertrauen und die politische Debatte sind bereits spürbar.
