Falsche Stimmen, echte Lügen

News • Tipps • 02.10. 2024

Glauben Sie nicht alles was geschrieben steht! Fake News, Bots, KI-generierte Bilder und gefälschte Video- und Audiofiles sind längst keine Randerscheinungen mehr, sondern prägen zunehmend unsere digitale Realität.

Das mit der Wiedergabe der Realität ist so eine Sache. Denn Text, Bild und Co. bergen ein Wirklichkeitsversprechen, das eine Illusion ist. Natürlich werden und wurden Bilder seit den Anfängen der Fotografie für dokumentarische Zwecke verwendet. Als Abbild der Realität. Doch bereits Mitte des 19. Jahrhunderts wussten einige Fotografen, sich die Macht der Bilder zunutze zu machen.

Édouard Isidore Buguet zum Beispiel – er war im Paris der frühen 1870er eine absolute Kultfigur in der Spiritisten-Szene. Also für all jene, die davon überzeugt waren, dass ihre geliebten Menschen auch nach dem Tod noch neben ihnen „unsichtbar“ weiterexistierten. Mittels Doppelbelichtung schuf Buguet „Geisterbilder“, auf denen (auch) die Verstorbenen bildlich festgehalten waren. Für seine Auftraggeber:innen war somit klar und belegt: Was fotografiert werden kann, ist real. Ein pfiffiges Betrugsmodell. Ein früher Hoax.

Édouard Isidore Buguet wurde später wegen Betrugs verurteilt.

Fakten per Knopfdruck

Schauplatzwechsel. Wien 2021. Wie leicht Bilder und Inhalte manipuliert werden können, gehört längst zum Allgemeinwissen. Und dennoch müssen sich die Medienschaffenden kurz kollektiv kräftig durchschütteln, nachdem sie einer Fake-Kampagne der Tagespresse aufgesessen waren. „Stronach kandidiert bei der Bundespräsidentschaftswahl 2022“ – APA, ORF, Puls4, Krone, Der Standard, alle berichteten. Das Team der Tagespresse hatte in „weniger als zwei Stunden Arbeit“ Mailadressen, Website sowie Parteiprogramm aus dem Boden gestampft und eine Pressekonferenz mit Frank Stronach samt vermeintlichen Unterstützern angekündigt. Kostenpunkt: 500 Euro. Und zwar für die Domain, die zum Zeitpunkt gerade verramscht wurde. (Die „gekaperte“ Website www.teamstronach.at ist übrigens noch erreichbar.) Rückfragen, Anrufe und Mails landeten somit in der Redaktion, wurden glaubwürdig beantwortet – et voilà.

Dass Stronach die Staatsbürgerschaft für einen Antritt fehlt, fiel dann auch niemandem mehr auf. Aber das ganze Malheur zeigt: Selbst Journalist:innen sind nicht vor einem Hoax oder Fake-News gefeit. Und was vor einigen Jahren noch ein paar Grafik-Künstler:innen und größeren Gruppierungen vorbehalten war, liefert heute die KI in Sekundenschnelle. Fakten auf Knopfdruck.

Die Entwicklung, realistisch aussehende Bilder zu generieren, bedeutet eine neue Dimension der Desinformation. Was früher noch als Photoshop-Experiment belächelt wurde, ist heute eine hochentwickelte Technologie. Aber mittlerweile entkoppelt von der Tech-Welt – mitten in der Gesellschaft und für jede und jeden schnell und kostenlos zugänglich. Mit wenigen Klicks und Prompts können Bilder erstellt werden, die Ereignisse zeigen, die niemals stattgefunden haben, oder Personen in kompromittierenden Situationen darstellen, in denen sie nie waren.

Multiplikatoren

So fegen also sogenannte „Fakten“ wie ein Sturm über sämtliche reichweitenstarke Plattformen hinweg. Nicht nur in Form von Bildern, sondern auch in Form von Texten, Audio- und (bald auch qualitativ sehr hochwertigen) Videofiles. Dabei ist der Mensch im Internet nicht alleine unterwegs, hat also Unterstützung beim Verbreiten von Unsinn. Bots, also automatisierte Programme, die menschliches Verhalten imitieren, haben sich über Jahre hinweg zu einem globalen Problem entwickelt und fungieren als Multiplikator. Sie agieren in den sozialen Medien wie unsichtbare Armeen, die Diskussionen lenken, Falschinformationen verbreiten und politische Narrative formen.

Generative KI hat auch Bots auf ein neues Niveau gehievt. Auf einer Plattform, ehemals bekannt als Twitter, tummeln sich beispielsweise solche Accounts recht munter – und lassen dabei klassische Bot-Erkennungsalgorithmen alt aussehen. Sie folgen sich gegenseitig, haben daher ein unauffälliges Verhältnis von Freunden und Followern. Zudem simulieren sie im Postingverhalten natürliche Pausen und Schlaf, posten dennoch nach einem zufälligen Muster und können Texte leicht abgewandelt weiterverbreiten, sodass die Aussage erhalten bleibt, Logarithmen die Nachrichten aber nicht als identisch erkennen können.

Aus der Masse der Nachrichten, die sich durch ein Botnetz absenden lassen, ergibt sich die wohl bedeutendste Gefahr: Bots manipulieren die Trends in sozialen Netzwerken, und diese Trends fließen in politische und wirtschaftliche Entscheidungsprozesse ein.

Neben der Diskreditierung von Personen und Parteien sind auch die generelle Zersetzung von Vertrauen in die Demokratie und die Abschreckung von Wähler:innen vom Wahlgang typische Vorhaben. Deep-Fakes wirken da nicht annähernd so nachhaltig. Zum idealen Zeitpunkt lanciert, haben sie aber ebenfalls das Potential, Wahlen zu entscheiden. Denn ein gut gemachtes Fake glaubwürdig zu widerlegen, dauert stets länger als die Erstellung. Per Knopfdruck.

Fazit

Die KI ist da. Nun sollten wir sie auch nach unseren Vorstellungen steuern, politische und private Akteure für diese Form der Kommunikation und des Agenda Settings sensibilisieren und einen adäquaten Umgang damit finden. Der AI Act, das EU-Gesetz zur Regulierung von künstlicher Intelligenz, ist ein erster Schritt in die richtige Richtung.

Aktuell wird nämlich eine Generation (zumindest) teilweise in algorithmisch gesteuerten Fake-News-Bubbles herangezüchtet. Es ist kein Zufall, dass gerade die Generation der unter 25-Jährigen bei Bildern auf Social Media besonders skeptisch ist. Viel skeptischer als ältere Personen. Nur – das führt auch zu Vertrauensverlust. Ohne Vertrauen in Medien, Wissenschaft und Medizin aufzuwachsen, ist nicht nur für die Gesellschaft und Demokratie eine Gefahr. Das Individuum wird alleingelassen.
Passiert nichts, könnte es bei uns allen schon bald wieder so sein wie vor der Erfindung der Fotografie, als es nur Zeichnung und Malerei gab: Abbild und Wirklichkeit wird nicht mehr für dasselbe gehalten.

Bertram Gross

Begriffserklärung

Hoax: Englisch für „Scherz“. Falschmeldung, die in Büchern, Zeitschriften oder Zeitungen, per E-Mail, Instant Messenger oder im Internet verbreitet wird
Deep-Fake: Realistisch wirkender Medieninhalt, der mit Hilfe der künstlichen Intelligenz erzeugt oder gefälscht wurde
Prompt: Interaktion mit der KI. Summe an Befehlen, Infos und Anweisungen, um das gewünschte Ergebnis zu erhalten
Algorithmen: Oft verwendet, um Gruppierungen vorzunehmen/Muster zu erkennen. Einfluss auf Suchergebnisse, personalisierte Werbung, (News-)Feeds etc.
Bubble: Englisch für „Blase“. Personalisierte Inhalte schaffen Filterblasen. Besonders ausgeprägt auf Social-Media-Kanälen wie TikTok, X, Instagram etc.