Freiherr-vom-Stein-Schule Hessisch Lichtenau/Deep Fake

Deep Fakes

Deep Fakes sind Fotos, Videos und selbst Audios die gefälscht sein können welche von einer KI (künstliche Intelligenz) bearbeitet wurden bzw. hergestellt wurden.

Face Swap

Datei:Sw-face-swap.png

Befragung Deepfake Foto

Beim Face Swapping ist das Ziel die Mimik von einem Gesicht auf ein Anderes Gesicht zu übertragen. Hierfür wird ein Autoencodener-Verfahren als Modell verwendet.

Voice Conversion

Bei Voice Conversion (kurz VC) kann die Stimme einer Person durch Programme verändert werden. Dabei spricht der "Angreifer" (die Person, die das Deep Fake machen will) einen Satz, der dann durch eine KI geändert wird um die Stimme der Zielperson zu simulieren und die Wörter des Angreifers zu wiederholen. Damit so etwas funktioniert, muss die KI eine große Menge an Audiomaterial der Zielperson hören.

Text to Speech

Text-To-Speech (kurz TTS) folgt einem ähnlichen Prinzip wie VC, indem auch versucht wird die Stimme einer Zielperson zu simulieren. Hierbei tippt der Angreifer die Sätze, von denen er möchte, dass sie konvertiert werden. Auch hierfür brauch die KI wieder eine Menge an Audiomaterial zum Trainieren.

Bedrohungen durch Deepfakes

Durch Deepfakes können eine Vielzahl von Bedrohungen entstehen. Dabei sind VC und TTS einer der gefährlichsten Methoden

Deep Fakes kriminelle Verwendung

Deepfakes werden oft zu kriminellen Zwecken verwendet wie Erpressung, Dokumentenfälschungen, Finanzmarktmanipulationen und Einflussnahme auf Firmen.

Quelle

https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/Deepfakes/deepfakes_node.html