02.10.2019
Forschung
1. Teil: „Erkennungs-Software soll Deepfakes entlarven“
Erkennungs-Software soll Deepfakes entlarven
Autor: Jens Stark
Mihai Surdu / Shutterstock.com
Gefälschte Videos, die aber täuschend echt wirken, werden zunehmend zur Gefahr im Netz. Die ETH Lausanne will in Zusammenarbeit mit dem Start-up Quantum Integrity den sogenannten Deepfakes nun zu Leibe rücken.
Staatschefs, die andere Länder verunglimpfen, ein Firmenboss, der Beängstigendes über die Absichten seines Unternehmens "verrät": In sozialen Netzen kursieren immer häufiger täuschend echt wirkende, aber gefälschte Videos von Persönlichkeiten des öffentlichen Lebens. Solchen Deepfakes wird mittlerweile weltweit der Kampf angesagt. Unter anderen haben Microsoft und Facebook angekündigt, gut 10 Millionen Dollar in Projekte zu stecken, die Deepfakes erkennen können.
Den Kampf zur Erkennung der Fälschungen aufgenommen haben nun unter anderem die Multimedia Signal Processing Group der ETH Lausanne und das auf dem Campus der Hochschule angesiedelte Start-up Quantum Integrity. Die beiden entwickeln bereits seit gut zwei Jahren Verfahren zur Deepfake-Erkennung. Nun haben sie Fördermittel von Innosuisse erhalten, um ihre Erkennungs-Software zu verbessern.
"Wir sollen die Software effizienter machen, damit sie breiter angewandt werden kann", sagt Touradj Ebrahimi, Leiter der Multimedia Signal Processing Group. Seine Gruppe steuert dabei Expertise in Sachen Signalverarbeitung bei, während das Start-up seine Erfahrung in Sachen Erkennung von gefälschten Bildern einbringt.
2. Teil: „Katz-und-Maus-Spiel“
Katz-und-Maus-Spiel
Die Erkennung von Deepfakes gleicht dabei einem Katz-und-Maus-Spiel. Sobald die Wissenschaftler eine Möglichkeit entdeckt haben, woran man Deepfakes erkennt, etwa unnatürlich wirkende Lippen- oder Augenbewegungen, optimieren die "Deepfaker" ihre Algorithmen, sodass eine Erkennung schwieriger wird.
Diesen Teufelskreis wollen Ebrahimi und Anthony Sahakian, CEO von Quantum Integrity, nun durchbrechen. Allerdings verraten sie Details der zugrunde liegenden Technik noch nicht, behaupten aber, dass sie gut zwei Jahre Vorsprung gegenüber Konkurrenten besäßen. Ebrahimi verrät nur so viel, dass "die Erkennungs-Software ebenfalls auf künstlicher Intelligenz basiert, um mit den Tricks mithalten zu können, welche die Deepfake-Künstler anwenden".
So verwendet die von der ETH Lausanne und Quantum Integrity entwickelte Technik Algorithmen, die mit Hilfe von maschinellem Lernen und auf Basis einer riesigen, über Jahre gewachsenen Datenbank auf die Erkennung von Fälschungen trainiert wurden. Ziel ist es, künftig eine Webseite bereitzustellen, auf die Anwender verdächtige Inhalte hochladen und auf deren Echtheit überprüfen lassen können.
Swisscom
Neue Cyberbedrohungen auf dem Radar
Der neue Cyber Security Threat Radar von Swisscom zeigt die Angriffsmethoden und das Vorgehen von Cyberkriminellen. Er beleuchtet neu auch die Entwicklungen in den Bereichen "Disinformation & Destabilisation", "Manipulated Generative AI" und "Unsecure IoT/OT-Devices".
>>
Zum Welt-Passwort-Tag
"95 % der Cyber-Sicherheitsprobleme sind auf menschliche Fehler zurückzuführen"
Am 2. Mai ist Welt-Passwort-Tag. Ein guter Anlass für den Frühlingsputz bei alten Logins und ein grundsätzliches Überdenken der eigenen Cybersecurity. Miro Mitrovic von Proofpoint gibt dazu einige konkrete Tipps.
>>
Künstliche Intelligenz
Memary - Langzeitgedächtnis für autonome Agenten
Das Hauptziel ist es, autonomen Agenten die Möglichkeit zu geben, ihr Wissen über einen längeren Zeitraum hinweg zu speichern und abzurufen.
>>
Cloud Infrastructure
Oracle mit neuen KI-Funktionen für Sales, Marketing und Kundenservice
Neue KI-Funktionen in Oracle Cloud CX sollen Marketingspezialisten, Verkäufern und Servicemitarbeitern helfen, die Kundenzufriedenheit zu verbessern, die Produktivität zu steigern und die Geschäftszyklen zu beschleunigen.
>>