Deepfakes werden zur hybriden Kriegsführung genutzt – mit Folgen, die weit über das Offensichtliche hinausgehen. Dr. Tim Polzehl, CEO von Gretchen AI, erklärt, warum das Vertrauen in Informationen eine Sicherheitsfrage ist.
Dr. Tim Polzehl
CEO von Gretchen AI
Wo liegt die eigentliche Gefahr von Deepfakes?
Die wirkliche Bedrohung ist nicht der einzelne Deepfake, sondern die Manipulation von Entscheidungen, die damit erreicht werden soll. Militärisch kann es darum gehen, Lagebilder zu verfälschen und operative Entscheidungen zu beeinflussen; auf gesellschaftlicher Ebene wird Vertrauen massiv untergraben, um Wahlentscheidungen beeinflussen zu können, die wiederum politische Entscheidungen, bspw. über militärische Hilfeleistungen mitentscheiden. Neu ist die Skalierbarkeit durch KI: Sie erzeugt in kürzester Zeit Tausende Inhalte. Das schürt Unsicherheit darüber, welchen Informationen noch zu trauen ist.
Warum wird die militärische Verifikation noch wichtiger als bisher?
Lagebilder entstehen aus Satelliten- und Drohnenaufnahmen, Sensoren oder Open Source Intelligence OSINT. Es reicht nicht, Informationen zu sammeln. Wir müssen fragen: Sind sie vertrauenswürdig? Ein OSINT-Video kann manipuliert sein – oder authentisch, aber aus einem anderen Konflikt stammen. Deshalb müssen auch Drittanbieter, Quelle und Kontext bewertet werden.
Wie zuverlässig erkennt KI Manipulation?
Bei vielen Medien funktioniert das sehr gut. Doch es bleibt ein Katz-und-Maus-Spiel: Neue generative Modelle erfordern angepasste Detektoren. Und authentisches Material kann durch einen falschen Kontext zur Desinformation werden. Deepfake-Erkennung allein reicht deshalb nicht. KI ist unverzichtbar, um in der Masse Kontexte zu hinterfragen und Informationsmengen vorzusortieren. Bei sicherheitsrelevanten Entscheidungen braucht es aber weiterhin menschliche Kontrolle.
Welche Gefahr besteht für demokratische Gesellschaften?
Das sogenannte „Liar’s Dividend“ halte ich für eines der kritischsten Probleme. Wenn das Vertrauen in Informationen erodiert, wird das auch sicherheitspolitisch relevant. Denn Bürgerinnen und Bürger entscheiden bei Wahlen darüber, welche außen- und sicherheitspolitischen Entscheidungen gesellschaftlich getragen werden. Die Widerstandsfähigkeit gegenüber Desinformation ist deshalb auch eine Frage demokratischer Resilienz der Wählerinnen und Wähler. Wir müssen Quellen hinterfragen und dürfen Informationen nicht ungeprüft weitergeben. Berlin geht hier voran, und stellt den KI-gestützten Orientierungscheck – „die Gretchenfrage“ – direkt in Instagram, X, und Tiktok im Vorfeld der Berliner-Wahlen öffentlich zur Verfügung.
WIR BRAUCHEN EIGENE TECHNOLOGISCHE FÄHIGKEITEN, INFRASTRUKTUR UND EINE VERIFIKATIONSEBENE FÜR DIE VERTRAUENSWÜRDIGKEIT VON INFORMATIONEN.
Was müssen Deutschland und Europa tun?
Wir brauchen eigene technologische Fähigkeiten, Infrastruktur und eine Verifikationsebene für die Vertrauenswürdigkeit von Informationen. Das gilt für Streitkräfte und Behörden ebenso wie für Medien, Unternehmen und Bürger. Im KI-Zeitalter wird auch um Vertrauen in Informationen gekämpft! KI ist dabei sowohl ein Mittel der Angreifer, aber zugleich eines unserer wichtigsten Mittel zur Verteidigung. Dieses Verständnis ist noch nicht allerorts angekommen.
Sie möchten mehr erfahren?
Weitere Informationen finden Sie unter: