Katz-und-Maus-Spiel

Die Erkennung von Deepfakes gleicht dabei einem Katz-und-Maus-Spiel. Sobald die Wissenschaftler eine Möglichkeit entdeckt haben, woran man Deepfakes erkennt, etwa unnatürlich wirkende Lippen- oder Augenbewegungen, optimieren die «Deepfaker» ihre Algorithmen, sodass eine Erkennung schwieriger wird.

Diesen Teufelskreis wollen Ebrahimi und Anthony Sahakian, CEO von Quantum Integrity, nun durchbrechen. Allerdings verraten sie Details der zugrunde liegenden Technik noch nicht, behaupten aber, dass sie gut zwei Jahre Vorsprung gegenüber Konkurrenten besässen. Ebrahimi verrät nur so viel, dass «die Erkennungs-Software ebenfalls auf künstlicher Intelligenz basiert, um mit den Tricks mithalten zu können, welche die Deepfake-Künstler anwenden».

Tatsächlich verwendet die von der ETH Lausanne und Quantum Integrity entwickelte Technik laut Mitteilung Algorithmen, die mit Hilfe von maschinellem Lernen und auf Basis einer riesigen, über Jahre gewachsenen Datenbank auf die Erkennung von Fälschungen trainiert wurden. Ziel ist es, dereinst eine Webseite bereitzustellen, auf die Anwender verdächtige Inhalte hochladen und auf deren Echtheit überprüfen lassen können.