{"id":25162,"date":"2023-07-31T21:17:27","date_gmt":"2023-07-31T19:17:27","guid":{"rendered":"https:\/\/blog.mi.hdm-stuttgart.de\/?p=25162"},"modified":"2023-08-06T21:35:53","modified_gmt":"2023-08-06T19:35:53","slug":"gesichter-der-tauschung-wie-deepfakes-unsere-identitat-bedrohen","status":"publish","type":"post","link":"https:\/\/blog.mi.hdm-stuttgart.de\/index.php\/2023\/07\/31\/gesichter-der-tauschung-wie-deepfakes-unsere-identitat-bedrohen\/","title":{"rendered":"Gesichter der T\u00e4uschung – Wie Deepfakes unsere Identit\u00e4t bedrohen"},"content":{"rendered":"\n

Stell dir vor: Deine Tochter ruft dich an – die Stimme klingt zumindest wie deine Tochter, die Schauspielerin Margot Robbie im neuen Barbie-Film tr\u00e4gt statt ihrem dein Gesicht und pl\u00f6tzlich taucht im Internet ein Video auf, das dich bei einer Straftat zeigt – du bist jedoch unschuldig und das Video ist eine perfide F\u00e4lschung. Willkommen in der Welt der Deepfakes, einer unsichtbaren Bedrohung, die unsere Realit\u00e4t manipuliert. <\/p>\n\n\n\n

\"\"<\/a>
Abbildung 1 [1]<\/figcaption><\/figure>\n\n\n\n

Mithilfe von KI-Bildgeneratoren wie Midjourney<\/a>, DALL-E2<\/a> oder Stable Diffusion<\/a> lassen sich t\u00e4uschend echte Bilder erstellen sowie bestehende Bilder manipulieren, indem zum Beispiel Gegenst\u00e4nde hinzugef\u00fcgt oder entfernt werden. Was als unterhaltsame M\u00f6glichkeit begann, n\u00e4mlich Kunstwerke zu erstellen, hat sich zu einer gef\u00e4hrlichen Waffe entwickelt. W\u00e4hrend der Papst im Rapper Mantel einem lediglich ein Grinsen ins Gesicht zaubert und zu Verwirrung f\u00fchrt, k\u00f6nnen Fake-Bilder von Rauch \u00fcber dem Wei\u00dfen Haus Panik ausl\u00f6sen. Solche Manipulationen k\u00f6nnen dazu f\u00fchren, dass die Vertrauensw\u00fcrdigkeit des Mediensystems angezweifelt oder auch elementare Prinzipien des Rechtssystems und der Demokratie untergraben werden.<\/p>\n\n\n\n

\"\"<\/a>
Abbildung 2: Papst Franziskus als Rapper gekleidet [2]<\/figcaption><\/figure>\n\n\n\n
\"\"<\/a>
Abbildung 3: Rauch \u00fcber dem Wei\u00dfen Haus [3]<\/figcaption><\/figure>\n\n\n\n

Berichten zufolge fiel auch ein Vorstandsvorsitzender eines britischen Energieunternehmens auf Telefonbetr\u00fcger:innen herein und \u00fcberwies eine hohe Summe an diese. Er ging davon aus, dass er mit seinem Chef, dem Vorstandsvorsitzenden der deutschen Muttergesellschaft, telefonierte. Die Stimme am Telefon hatte den gleichen deutschen Akzent und \u00e4hnelte der Stimme seines Chefs. Er bekam die Anweisung 220.000 Euro auf ein Bankkonto eines ungarischen Lieferanten zu \u00fcberweisen. Diese f\u00fchrte er ohne zu z\u00f6gern aus. Erst nachdem die Betr\u00fcger:innen nach einer Folgezahlung verlangten, wurde er misstrauisch und erkannte, dass er auf Betr\u00fcger:innen, die t\u00e4uschend echt klangen, hereingefallen war. Das Geld war jedoch bereits \u00fcberwiesen.<\/p>\n\n\n\n

Die grausame Erfahrung, dass ihr Gesicht pl\u00f6tzlich in einem Pornofilm auftauchte, machte beispielsweise die Schauspielerin Kristen Bell. Das Gesicht einer Pornodarstellerin wurde durch ihres ersetzt. Da von Schauspielern und Prominenten zahlreiche Bilder im Internet zur Verf\u00fcgung stehen, k\u00f6nnen solche Videomanipulationen mit hoher Qualit\u00e4t erstellt werden und somit sehr realistisch wirken. <\/p>\n\n\n\n

Durch die Manipulation von medialen Inhalten mit Falschinformationen wird zunehmend das Vertrauen in die Realit\u00e4t untergraben. Doch wie k\u00f6nnen wir uns sch\u00fctzen, wenn sogar unsere Sinne get\u00e4uscht werden? Was ist dann noch authentisch?<\/p>\n\n\n\n

\"\"<\/a>
Abbildung 4: Welt der Deepfakes [4]<\/figcaption><\/figure>\n\n\n\n

Was sind Deepfakes?<\/h4>\n\n\n\n

Unter Deepfakes versteht man Verfahren, um mediale Identit\u00e4ten zu manipulieren. Das Prinzip ist nicht neu und existiert bereits seit einigen Jahren. Schon l\u00e4ngere Zeit war es m\u00f6glich beispielsweise mit Adobe PhotoshopTM ein Bild zu bearbeiten und das Gesicht einer Person auszutauschen. Dies war jedoch zeitaufwendig und gewisse F\u00e4higkeiten waren notwendig. Bereits 2018 entstand das \u201cObama Buzzfeed Deepfake\u201d und weitere folgten.<\/p>\n\n\n\n

\"\"<\/a>
Abbildung 5: \u00dcbersicht von Deepfake Angriffen [5] <\/figcaption><\/figure>\n\n\n\n

Neu ist, dass die Manipulationen zunehmend t\u00e4uschend echt aussehen und F\u00e4lschungen kaum zu erkennen sind. Dieser Fortschritt wurde durch den Einsatz K\u00fcnstlicher Intelligenz erreicht. In diesem Zusammenhang wird von Deepfakes <\/em>gesprochen. Der Name leitet sich von der Technologie Deep Learning<\/em>, die zum Erstellen der Fakes<\/em> eingesetzt wir, ab. Manipulationen sind mittlerweile nicht nur an Bildern und Texten m\u00f6glich, sondern auch an dynamischen Medien, wie Videos und Audios. Durch den Einsatz von K\u00fcnstlicher Intelligenz geht es nicht nur einfach und schnell, mediale Inhalte zu manipulieren, sondern die F\u00e4lschungen werden zudem in hoher Qualit\u00e4t erstellt. Heutzutage gibt es zahlreiche Onlinetools, die Manipulationen in sekundenschnelle vornehmen. <\/p>\n\n\n\n

Die eingesetzten neuronalen Netze sind in der Lage, aus unstrukturierten Daten, wie dem menschlichen Gesicht oder der Stimme, wichtige Merkmale zu extrahieren und zu lernen. Zum Beispiel kann eine KI Daten \u00fcber die Mimik des Gesichts sammeln. Nach der Erfassung dieser Daten k\u00f6nnen sie mit einem Generative Adversarial Network (GAN) verarbeitet werden, um beispielsweise ein Deepfake-Video zu generieren. Dabei handelt es sich um ein maschinelles Lernsystem, das aus zwei neuronalen Netzen besteht, die miteinander konkurrieren. Da eine solche Architektur st\u00e4ndig die generierten Daten mit echten Daten vergleicht, werden die gef\u00e4lschten Daten immer besser und qualitativ hochwertiger. Die einzelnen M\u00f6glichkeiten zur Erstellung und Ver\u00e4nderung von medialen Inhalten schauen wir uns im Folgenden n\u00e4her an.<\/p>\n\n\n\n

Welche Arten von Deepfakes gibt es?<\/h4>\n\n\n\n

F\u00e4lschung von Gesichtern:<\/strong><\/p>\n\n\n\n

\"\"<\/a>
Abbildung 6: Face Swapping [5]<\/figcaption><\/figure>\n\n\n\n