Das Spiel mit der Realität: Deepfakes und ihre Auswirkungen auf uns alle

Vielleicht haben Sie bemerkt, dass in den sozialen Medien häufig über „Deepfakes“ gesprochen wird, insbesondere im Zusammenhang mit Desinformation und der sogenannten Post-Truth-Gesellschaft. Dieses Konzept, welches ab 2015 Bekannheit erlangte, beschreibt eine neue Ära von Fake News und Informationskriegsführung im Internet. Aber was sind Deepfakes und welche Risiken bergen sie?

Was sind Deepfakes?

Deepfakes sind gefälschte oder manipulierte Videos oder andere Inhalte, in denen Personen Dinge tun oder sagen, die sie in Wirklichkeit nie getan oder gesagt haben. Diese Inhalte können äusserst realistisch wirken. Deepfakes werden mithilfe von maschinellem Lernen erstellt: Ein Deep-Learning-Modell wird mit einer grossen Menge an Daten (Videos, Fotos, Tonaufnahmen) der Zielperson trainiert – oft eine Berühmtheit oder ein Politiker. Das Modell generiert anschliessend neue visuelle und auditive Inhalte dieser Person.

Welche Risiken bergen Deepfakes?

Mit der fortschreitenden Entwicklung, höheren Rechenleistungen und der Verfügbarkeit von KI-Technologien steigt auch die Menge an Desinformation und falschen Inhalten in den sozialen Medien. Jeder kann Inhalte posten und deren Echtheit behaupten. Noch beunruhigender ist, dass viele Menschen nicht wissen, was ein Deepfake ist oder wie man sie erkennt. Dies führt zu einer zunehmenden Verbreitung von Falschinformationen, die das Vertrauen in echte Nachrichten und Informationen weiter untergraben. Die Herausforderung besteht darin, sich der Existenz und der potenziellen Gefahren von Deepfakes bewusst zu sein und Mechanismen zu entwickeln, um ihreVerbreitung und ihren Einfluss zu begrenzen.

Wenn Menschen nicht in der Lage sind, zwischen echten und falschen Informationen zu unterscheiden, werden sie leicht manipulierbar. Desinformation wurde bereits als Bedrohung bei wichtigen politischen Wahlen, der COVID-19-Krise und anderen politischen sowie humanitären Krisen genannt.

Die häufigste Verwendung der Deepfake-Technologie ist die Erstellung realistischer sexueller Inhalte von bestimmten Personen. Dies reicht von Promi-Pornos (die Mehrheit) bis hin zu Rachepornos. Die Erstellung solcher Inhalte ohne Zustimmung der betroffenen Personen kann extrem schädlich sein und stellt ein ernsthaftes humanitäres Problem dar.

Deepfake-Technologie kann auch für betrügerische Aktivitäten genutzt werden. Ein Anruf könnte beispielsweise die Stimme einer bekannten Person imitieren, tatsächlich handelt es sich jedoch um einen Betrugsversuch. Ein extremes Beispiel ist ein Vorgang, der sich kürzlich in Hongkong ereignete: Ein Finanzmitarbeiter glaubte, in einer Videokonferenz mit seinen Vorgesetzten zu sein, die jedoch alle Deepfakes waren. Dies führte dazu, dass er 25 Millionen Dollar an Betrüger überwies. Laut einem Bericht von Sumsub gab es von 2022 bis 2023 eine 10-fache Zunahme von Deepfake-Betrug.

Deepfakes können auch das Privatleben von Personen beeinträchtigen, indem sie falsche und potenziell schädliche Darstellungen erzeugen. Beispielsweise könnte ein Deepfake verwendet werden, um ein Video von jemandem zu erstellen, der an illegalen oder unmoralischen Aktivitäten teilnimmt, was seinen Ruf und seine Beziehungen erheblich schädigen könnte. Es ist entscheidend, sich der Existenz und der potenziellen Gefahren von Deepfakes bewusst zu sein und Strategien zu entwickeln, um ihre Verbreitung und ihren Einfluss zu begrenzen.

In absehbarer Zeit ist aber nicht mit einem Rückgang von Deepfakes zu rechnen, ganz im Gegenteil. Seit der Popularisierung der Technologie im Jahr 2017 ist die Anzahl der Deepfakes exponentiell gewachsen. Da die Technologie bereits existiert, können wir wenig tun, um Menschen daran zu hindern, sie zu nutzen. Stattdessen müssen wir besser darin werden, Deepfakes und Desinformation im Allgemeinen zu erkennen. Es werden auch rechtliche Massnahmen ergriffen, um die Auswirkungen von Deepfakes zu begrenzen, wie das kürzlich verabschiedete EU-KI-Gesetz, das vorschreibt, dass Deepfake-Inhalte als solche gekennzeichnet werden müssen. Dies soll sicherstellen, dass die Menschen wissen, dass das, was sie sehen, gefälscht ist. Allerdings bleibt die Wirksamkeit solcher Massnahmen abzuwarten.

Was können Sie tun?

Individuen und Unternehmen können mehrere Schritte unternehmen, um Deepfakes entgegenzuwirken und zu erkennen.

1. Bildung und Sensibilisierung: Schulen Sie sich und Ihre Mitarbeiter über die Existenz und Risiken von Deepfakes. Regelmässige Schulungen können helfen, die Erkennung von Deepfakes zu verbessern, indem auf unnatürliche Gesichtszüge, inkonsistente Beleuchtung oder Unregelmässigkeiten in der Audioqualität geachtet wird.

2. Technische Lösungen: Nutzen Sie technische Lösungen, die auf die Erkennung von Deepfakes spezialisiert sind, und investieren Sie in Cybersicherheitsmassnahmen, um Ihre digitalen Vermögenswerte zu schützen.

3. Kultur der Skepsis fördern: Fördern Sie eine Kultur der Skepsis und verifizieren Sie die Quelle verdächtiger Inhalte, bevor Sie diese teilen.

Durch Informiertheit und Wachsamkeit können Sie die Auswirkungen von Deepfakes auf Ihr persönliches und berufliches Leben verringern. Indem wir uns gemeinsam gegen diese Bedrohung stellen, können wir die Verbreitung von Desinformation und die daraus resultierenden Schäden minimieren.