Desinformation in der Ära von KI

"Fake it till everyone believes it"

Wo die visuelle Desinformation in der Ära generativer KI herkommt, wie sie sich weiterentwickelt und wie man ihr am besten begegnet, analysierte Godulla in seiner Auftakt-Keynote. 

Im Vergleich mit der menschlicher Fähigkeit zeigte er an 5 Parametern (nach Kilea et. al. 2021) die beeindruckenden Lernkurven der KI von 2000 bis 2020 in der Konkurrenz mit der menschlichen Intelligenz. In der Handschriftenerkennung habe die KI den Menschen im Jahr 2014 eingeholt, in der Spracherkennung 2016, in der Bilderkennung schon 2009, im Leseverstehen 2016 und im Sprachverstehen 2019. Auffällig sei, dass die Kurven der KI immer steiler werden, und im Sprachverstehen sogar nur 2 Jahre benötigte. 

Die Deepfakes verbinden Daten plus KI mit absichtsvoller Fokussierung auf Unwahrheit. KI steht uns allen zur Verfügung.  Die Daten sind inzwischen immer schneller zur Hand. Brauchten Gerüchte und Fama früher noch recht lange, beschleunigte sich Desinformation 2.0 über das Social Web schon erheblich und erreicht gerade in der Desinformation 3.0 das semantische Web: Auch KI kann jetzt Desinformation blitzschnell produzieren. Und ihre Fortschritte seien so beachtlich, dass es immer schwerer werde, Deepfakes von echten Nachrichten zu unterscheiden.

Angesichts der exponentiellen Entwicklung der Einzelfähigkeiten der KI nähern wir uns nämlich mit Riesenschritten der Generativen KI, also der Form, in der sie den Menschen nicht nur in Einzelfertigkeiten ein- und überholt, sondern in einer allgemeinen Form einer gebündelten Vielzahl der Intelligenzen ihnen ebenbürtig werde. Die Generative AI sei auch schon über den Hype hinaus. Sie habe den Gipfel der überzogenen Erwartungen bereits überschritten, befinde sich auf dem Weg ins Tal der Enttäuschungen, um dann wieder auf den Pfad der Erleuchtung einzubiegen und schließlich zum Plateau der Produktivität zu gelangen. Dieses Plateau werde AI wohl in 2 Jahren erreicht haben. Das stimmt so in etwa mit der Prognose des ehemaligen Google-Entwicklungschef und Erfolgsautor Ray Kurzweil überein, der für 2029 schon seit 20 Jahren vorhersagt, dass KI den Touring-Test passieren, also von menschlicher Intelligenz nicht mehr unterscheidbar sein wird. 

Was sind nun die Folgen dieser beschleunigten Fähigkeitenexplosion der KI? Werden wir in eine durchgängige "epistemische Ungewissheit" geführt, die uns nur noch als radikale Bezweifler aller Äußerungen die Sicherheit gibt, keinen  Betrügern mehr aufzusitzen? Oder müsse man sich überhaupt darüber Gedanken machen? In einem filmischen Sprachspiel antwortet z. B. der attraktive weibliche Avatar der KI auf die Frage ihres menschlichen Gesprächspartners, ob sie echt sei: „Nun, wenn Du es nicht sagen kannst, spielt es dann eine Rolle?“ Aber natürlich spielt es eine große Rolle. Weil die menschliche Heuristik darauf richtigerweise mit Grund-Skepsis reagieren und dieser Zweifel sich leider auch auf die Wahrheiten ausdehnen werde. Das könne schließlich in einem pauschalen Medienzynismus  enden, in dem Vertrauen in Wahrheit nur noch als Dummheit naiver Träumer erscheint. 

Das Deep Fake-Projekt der Universität Leipzig

Das genau erforscht das Deep Fake-Projekt der Leipziger Universität, das Christian Hoffmann präsentierte, soeben der Wissenschafts-Community vorgestellt wurde und in den nächsten Tagen auch die breite Öffentlichkeit erreichen wird.  Zunächst präzisiert er drei Begriffe zur Analyse. Synthetische Medien sind alle mittels KI erzeugten oder manipulierten Medien. Deep Fakes sind Ereignisse, in denen Personen in synthetischen Medien manipuliert, verzerrt dargestellt oder in völlig fiktionalen Zusammenhängen eingestellt  werden. Cheapfakes sind schließlich als KI erkennbare satirische Verzerrungen realer Personen, die in ganz in der Meme-Tradition Deep Fakes produzieren, aber diese selbst erkennbar machen.

Zum Stand der Technik und wichtigsten Anwendungen führte Hoffmann aus: Es gebe eine enorm schnelle Entwicklung, auch wenn auf dem Weg zum Massenmarkt noch viel Rechenkapazität benötigt werde. Aber: Jeder Mensch mit Computer kann heute mit wenig Aufwand und in kürzester Zeit zum Deepfaker werden. Die Anwendung beschränkten sich zunächst auf nicht konsensuale Sexualität, die aktuell in der öffentlichen Berichterstattung z. B.  über den Fall Fernández und Ulmen, neue Brisanz erfahre. Betrügerische Anwendungen seien immer noch ziemlich selten, nähmen aber - nach einer Vergleichsbefragung 2022 zu 2025 - zu. Da sie stark medienvermittelt seien, sei aber auch nicht klar, was "in Kontakt kommen" überhaupt heiße: tatsächliche Erlebnisse oder nur Wahrnehmung von öffentlicher Berichterstattung. Ein Beschleuniger sei in jedem Fall Donald Trump, der mit Vorliebe satirisch herabsetzende Deepfakes verwende,  z.B. ein Bild präsentiere, in dem er  den Pool mit mit Tränen einer Demokratin über die verlorene Präsidentenwahl reinige.

Noch seien Menschen in der Erkennung von Deep Fakes gleich gut wie Detection Machines. Aber das werde sich ändern. Am besten funktionierten jedoch kombinierte Wahrnehmungen der KI und der Menschen. Noch ermöglichen Unschärfen bei 5 Indikatoren die Erkennung von Deep Fakes: bei Haut & Gesicht, Augen, Mund & Stimme, Körper & Umgebung. Aber das ändere sich rasch.

Was macht künstliche Desinformation mit uns und wie können wir darauf reagieren? Wenn Deepfakes zu generalisiertem Misstrauen führten, berge das zwar schon die Gefahr der Übertragung umfassender Skepsis auch auf Wahrheiten. Aber das müsse ja nicht sein: Für den pragmatischen Umgang mit Deep Fakes empfahl Hoffmann  drei Heuristiken: Zunächst einmal sollte man sein Kontextwissen mobilisieren, also Plausibiltäten prüfen und alternative Quellen zu Rate ziehe. Danach biete sich eine Prüfung der medialen Qualität an: also die Untersuchung der  besagten 5 Indikatoren. Und schließlich helfe es gerade in den sozialen Medien sowieso immer, gezielt die eigenen sozialen Beziehungen und ihre Wahrhaftigkeitshistorie einzubeziehen, also sehr präzise darauf zu achten, wer etwas sage. 

Mehr Informationen zur KI-Desinformation: http://www.deepfake-project.com

Fazit

Einig waren sich die Teilnehmer am Ende, dass bei allen exponentiellen Fortschritten der KI die viel breitere menschliche und soziale Intelligenz den geeigneten Rahmen stellt, mit dem Menschen besser mit der KI konkurrieren und kooperieren. Dabei könne es allerdings nicht schaden, genau Bescheid zu wissen, welche Möglichkeiten die KI auszuspielen vermöge und welche Stärken unsere menschliche Intelligenz in ihrer Erstreckung auf Mehrdimensionalität, Sozialität und Zeitgestaltung in der Lage sei, ins Spiel zu bringen. Das ist unendlich viel mehr, als die überhitzte KI-Diskussion aktuell annimmt. Aber diese Stärken werden uns nicht geschenkt, sondern müssen klug, konsequent und kontinierlich erarbeitet und immer wieder neu an die jeweiligen KI-Fortschritte angepasst werden.

So ganz neu ist dieses Spiel "Fakten zu verdrehen" übrigens ja auch nicht: sie in riesige Dimensionen superlativisch aufzublasen, von ihrer grauen Alltagswelt zu de-kontextulisieren und mit neuem Inhalt großartiger Prachtentfaltung illusionärer Paradiese zu re-kontextualiserien. Schon im dreieinhalb Jahrtausende währenden ägyptischen Pharaonenreich waren es die Schreiber, die "Träger des Geheimnisses", die ihre sterblichen Herrscher in Narrative unsterblicher Göttlichkeit einbanden, vor deren tatsächlich äußerst nachhaltigen Architektur-Kunstwerken wir heute staunend stehen. Um allerdings etwas Vergleichbares zu schaffen, muss sich KI aber noch ein wenig anstrengen.

Mehr Informationen dazu, wie Menschen ihr "Gleichgewicht finden in Umbruchzeiten": internal://179650b8-c4fb-4576-901a-3dcff4b375