Es ist natürlich so herrlich einfach: Mit Hilfe von KI Texte erstellen, Fotos aufpeppen oder mit einem virtuellen Gesprächspartner chatten. Die Schattenseite: Deepfakes. „Das sind mithilfe von KI manipulierte oder erstellte Bilder, Videos oder Tondateien, die täuschend echt wirken und kaum als Fälschungen erkennbar sind“, erklärt Alina Gedde, Digitalexpertin von ERGO. „Daher genießen sie häufig eine hohe Glaubwürdigkeit und verbreiten sich im Netz rasend schnell.“
Ein Beispiel: Prominenten Worte in den Mund zu legen, die diese nie gesagt haben. „Das kann zum Zweck von Produktwerbung geschehen. Oft sollen Personen aber auch diffamiert oder gemobbt werden, etwa durch KI-erzeugte Fotomontagen, die sie scheinbar in verfänglichen Situationen zeigen“, so Gedde.
Das Beunruhigende: Mit den entsprechenden Apps kann heute jeder schnell und einfach Deepfakes erstellen. „Es ist aber bereits strafbar, andere ohne deren Einwilligung zu fotografieren. Wer also Fotos oder Videos fälscht oder verbreitet, begibt sich juristisch auf sehr dünnes Eis“, warnt die Digitalexpertin. Eltern sollten deshalb auch ihre Kinder für das Thema sensibilisieren.
Cyberkriminelle nutzen Deepfakes, um Menschen zu beeinflussen, politische Propaganda zu verbreiten oder den Ruf von Personen des öffentlichen Lebens zu zerstören. Auch Trickbetrüger nutzen die Technologie. Beispielsweise manipulieren sie ihre Stimme am Telefon so, dass sie wie ein Verwandter oder Bekannter ihres Opfers klingen. „Auf diese Weise versuchen sie dann, an sensible Daten wie Kontoinformationen oder Passwörter zu gelangen. Auch Betrugsmaschen wie der sogenannte Enkeltrick werden durch Deepfakes noch raffinierter“, so Gedde.
Moderne Computer, Smartphones und Co. sind enorm leistungsfähig – genauso wie KI-Anwendungen. Fälschungen sind deshalb immer schwieriger zu erkennen. Deshalb empfiehlt Alina Gedde, bei Fotos und Videos auf ungewöhnliche Krümmungen von Armen und Beinen, falsche Proportionen, merkwürdig fallende Schatten, unnatürliche Bewegungen und ähnliche Details zu achten.
Auch bei menschlicher Mimik und Gestik können KI-Anwendungen noch nicht mithalten, dazu kommen oft Qualitätsverluste wie Bildverzerrungen, Unterschiede in der Bildschärfe und Farbgebung oder fehlende Lippensynchronität in Videos. „Bei gefälschten Tonaufnahmen klingt die Stimme oft monoton und blechern. Auch falsche und unnatürliche Betonungen sowie ein abgehackter Sprechfluss können Hinweise auf einen Deepfake sein“, so die Digitalexpertin von ERGO.
Sie empfiehlt, verdächtige Fotos auf einem großen Bildschirm anzusehen. So lassen sich Manipulationen besser erkennen als auf einem kleinen Smartphone-Display. Oft hilft auch schon eine schnelle Internetsuche, um Deepfakes zu enttarnen. „Taucht ein scheinbar sensationelles Video auf keiner seriösen Nachrichtenseite auf, sondern nur auf zwielichtigen Social-Media-Kanälen, handelt es sich mit großer Wahrscheinlichkeit um einen Deepfake“, so die Expertin. Im Web gibt es auch viele Faktencheck-Portale, auf denen sich Nutzer über aktuelle Deepfakes informieren können.
Und ansonsten: Nicht alles glauben und Informationen stets mit einem gesunden Maß an Skepsis betrachten – vor allem im World Wide Web.
