Deepfakes: Nichts ist, wie es scheint

In Kürze Deepfakes, also mit KI-Methoden manipulierte Fotos, Videos und Audios, werden immer besser. Die neuen technischen Möglichkeiten nutzen aber nicht nur Demokratiefeinde oder Enkeltrick-Betrüger. Auch Cyberkriminelle, die im Unternehmensumfeld bislang mit gut gemachten Phishing-Mails auf Beutezug gingen, haben damit noch perfidere Betrugsoptionen. Eines vorweg: Deepfakes können Spaß machen. Ob per Künstlicher Intelligenz (KI) generierte Filmtrailer wie zu "Harry Potter" im Wes-Anderson-Style oder mehr oder weniger gelungene "neue" Songs von längst verblichenen Popstars - der Kreativität scheinen keine Grenzen gesetzt. Auch Hollywood hat die neuen technischen Möglichkeiten längst entdeckt: Harrison Ford etwa sieht im aktuellen "Indiana Jones" streckenweise um Jahrzehnte verjüngt aus. Val Kilmers Stimme, die der Schauspieler aufgrund einer Krebserkrankung einbüßte, wurde in "Top Gun: Maverick" wieder zum Leben erweckt. Während Kilmer aber ein Software-Unternehmen explizit um ein digitales Modell seiner Stimme bat, um weiter als Schauspieler arbeiten zu können, rufen die Möglichkeiten der Deepfake-Technik auch Instanzen und Personen auf den Plan, die ungefragt Videos und Stimmen von realen Personen generieren und damit gar nichts Gutes im Sinn haben: Russland etwa nutzt Deepfakes zur Kriegspropaganda und zur Destabilisierung von pluralistischen Gesellschaften. Aber auch hierzulande sind sie ein beliebtes Werkzeug von Demokratiefeinden, auch inländischen: Falschnachrichten zur Diskreditierung der Regierung oder mit rassistischen Narrativen und Verschwörungserzählungen gespickte Fake-Fotos oder -Videos, finden via Social Media ein großes Publikum. Schließlich haben aber auch Kriminelle, die finanzielle Interessen verfolgen, Deep-fakes entdeckt: Diese finden etwa beim sogenannten Enkeltrick-Betrug Anwendung. Und Cyberkriminellen, die bislang mit Phishing-Mails im Unternehmensumfeld auf Beutezug gingen, stehen mit Deepfakes noch perfidere Betrugsmaschen offen. Je besser die Qualität dieser Fakes wird, umso breiter werde auch das kriminelle Anwendungsspektrum, bestätigt das Bundeskriminalamt (BKA). "Deepfakes können beispielsweise in dem Bereich der Betrugs-Straftaten für Delikte wie ,CEO-Fraud', ,Romance Scam' und zur Eröffnung von Bankkonten mittels Video-Identverfahren genutzt werden", so ein Sprecher des BKA. Allein: Betrugs-Straftaten, die mithilfe von Deepfakes begangen wurden, werden in der polizeilichen Kriminal-statistik unter dem allgemeinen Straftaten-Schlüssel "Betrug" subsumiert - es liegen also keine genauen Fall-, Opfer- und Schadenszahlen vor. Ein besonders erschreckender Fall von CEO-Fraud wurde schon 2019 bekannt: Der CEO der britischen Tochtergesellschaft eines deutschen Konzerns fiel auf die computergenerierte Stimme seines deutschen Chefs rein, die sogar dessen deutschen Akzent imitierte. Der britische CEO führte eine vorgeblich dringende Zahlung an einen Lieferanten durch - umgerechnet 220.000 Euro waren weg. Fake-Stimmen erkennen Audiosignal klingt "metallisch" Häufig können Text-to-Speech-Verfahren (TTS) nicht alle Wörter korrekt aussprechen, beispielsweise wenn sie auf eine andere Sprache trainiert wurden Das Audiosignal kann sehr monoton hinsichtlich der Betonung der Wörter sein Spezifische Charakteristika der Stimme wie Akzente oder Betonungen von Wörtern werden nicht richtig getroffen Sofern ein Fälschungsverfahren Eingangsdaten erhält, die stark von den beim Training verwendeten abweichen, kann es unnatürliche Geräusche erzeugen Qualitativ hochwertige Fälschungen gehen in vielen Fällen mit einer zeitlichen Verzögerung einher, da der semantische Inhalt vor der Verarbeitung zunächst ausgesprochen und erfasst werden muss Niederschwelliger Zugang für Kriminelle Das Beunruhigende ist: Kriminelle brauchen keine besonderen IT-Skills, um etwa Stimmen zu klonen. Der Zugang zu solchen Tools sei recht einfach, bestätigt Nicolas Müller, der in der Abteilung Cognitive Security Technologies am Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC) zum Thema Deepfakes forscht. "Ab fünf Euro im Monat kann man solche KI-Modelle nutzen. Je länger und qualitativ hochwertiger die hochgeladenen Audiodaten sind, desto besser fällt das Ergebnis aus", sagt Müller. Wie realistisch ist das Szenario, dass ein digitaler Klon des Chefs sich per Audio- oder gar Videocall meldet? "Grundvoraussetzung dafür ist natürlich, dass sich jemand unerlaubt Zugriff auf den Account des Vorgesetzten verschafft. Ist das einmal passiert, gibt es kein technisches Warnsystem", so Müller. Man sollte in solchen Situationen also genauso reagieren, wie man auf andere Angriffs- und Täuschungsversuche reagieren sollte: "Mit gesundem Misstrauen, allen voran, wenn es um Geld geht und gezielt Druck aufgebaut wird", betont er. Wenn der Chef also sagt, man solle ganz dringend eine Überweisung ins Ausland vornehmen, sollte man auflegen und ihn zur Verifizierung auf einem anderen Kommunikationskanal, etwa per Handy, kontaktieren. "Die Hoffnung ist dabei natürlich, dass der Angreifer nur einen Kommunikations-kanal gekapert hat", sagt der Experte vom Fraunhofer-Institut. KI mit KI bekämpfen Das AISEC arbeitet daran, die Kriminellen mit ihren eigenen Waffen zu schlagen: nämlich Deepfakes per KI zu erkennen. "Wir trainieren KI-Systeme, die Audiodateien als echt oder falsch einordnen können", erläutert Müller. Darüber hinaus überprüft das Institut im Auftrag von Unternehmen die Sicherheit von Voice-ID-Systemen. "In einem Fall ist uns mittels eines gestellten Angriffs, auch Penetrationstest genannt, gelungen, das System zur Stimmerkennung mit einem hochwertigen Audio-Deepfake zu überwinden." Das Unternehmen habe dann auf Basis der Analyseergebnisse die Schwachstellen entfernen können. Die am AISEC angefertigten Lösungen unterstützen Unternehmen übrigens nicht nur bei der Erkennung von Deepfakes, sondern werden zudem zu Schulungs- und Aufklärungszwecken verwendet: So ist etwa ein von den Forschenden konzipiertes Demo-Quiz eine gute Übung, echte von falschen Audiodateien unterscheiden zu können. Wer sich testen will: https://deepfake-demo.aisec.fraunhofer.de. Interview Welche Verfahren zur Stimmen-Manipulation es gibt und wie das Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC) diese per KI-System entlarvt, erklärt Nicolas Müller im ausführlichen Interview auf unserem Profi-Portal VerkehrsRundschau plus. mh www.verkehrsrundschau.de/plus/deepfakes-mueller-interview vafd k kjg b j bbj

Speditionsbranche in Württemberg/Nordbaden: Neuer Tarifabschluss

Möbellogistiker SLC Service Logistik Company meldet Insolvenz an

Studie: Unterschlagen Lkw-Hersteller 50 Prozent ihrer Emissionen?

KI in der Paketlogistik: Unverzichtbar für die letzte Meile

Cannabis: Dekra warnt vor Anhebung des Grenzwerts

Alle Schlagzeilen

Deepfakes: Nichts ist, wie es scheint

WEITERLESEN

NEWSLETTER