Künstliche Intelligenz (KI) entwickelt sich rasant – und mit ihren Möglichkeiten wächst auch das Risiko des Missbrauchs. Generative KI-Modelle können mittlerweile täuschend echte „Deepfakes“ erzeugen: Audio- oder Videoaufnahmen von Personen, die komplett künstlich erstellt wurden und dennoch echt wirken. Während solche Technologien in Film und Fernsehen sinnvolle Anwendungen finden, bergen sie ein enormes Gefahrenpotenzial – etwa für Desinformation, Rufschädigung oder Betrugsversuche wie den „Enkeltrick 2.0“. Dieser Web-Vortrag vermittelt anschaulich – auch ohne technisches Vorwissen – die Problematik anhand von „Audio-Deepfakes“, also gefälschten Sprachaufnahmen. Er erklärt die technischen Hintergründe und zeigt aktuelle Forschungsansätze zu möglichen Gegenmaßnahmen: Wie kann KI helfen, Deepfakes zu entlarven? Woran lassen sich Fälschungen erkennen – und kann man das lernen? Und wie sollte man reagieren, wenn plötzlich ein mögliches Deepfake am Telefon ist?
Dr. Nicolas Müller
Senior Engineer am Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC) in Garching bei München