Während sich diverse Personen die Pixel ihrer eigenen Bilder an die „richtige Position“ verschieben und Canny AI führende Politiker zusammen „Imagine“ singen lässt, versuchen einige Forscher sich den ethischen Implikationen der Technologien zu widmen. Bereits im vergangenen Jahr hatte Adobe ein AI-Tool entwickelt, das bearbeitete Medien erkennen soll, die durch Klonen und Entfernen von Objekten oder Splicing erstellt wurden – mehr dazu findet Ihr hier.
Detecting Facial Manipulations in Photoshop
Das neue Forschungsprojekt von Adobe und der Universität Berkely zeigt nun eine AI basierte Methode zur Erkennung von Photoshop-Manipulationen durch das Liquify Tool. Durch das Trainieren eines Convolutional Neural Networks (CNN) kann das Model die veränderten Gesichtszüge erkennen. Die Forscher erstellten dafür eine umfangreiche Sammlung mit tausenden Bildern aus dem Internet.
Über ein individuelles Script führten die Forscher automatische Gesichtsmanipulationen durch – mit abstrahierten Operationen, um beispielsweise die Nasenbreite zu vergrößern oder den Augenabstand zu verkleinern. Durch zufällige Stichproben blieb daraus ein Trainingsset aus Paaren von Originalbildern und realistisch verzerrte Modifikationen bestehen. In einer anschließenden Studie erkannte das menschliche Augen die Bildmanipulation in 53% der Fälle, während das trainierte neuronale Netzwerk 99% korrekt zuordnete. Das Tool identifiziert dabei auch die Bereiche und Stärke der Verzerrung. Im Experiment gelang es dem Tool zudem veränderte Bilder auf eine Annäherung des ursprünglichen Zustands zurückzusetzen. Das Paper, sowie zugehöriger Code (bald auf Github) und nähere Details zur Umsetzung, könnt Ihr hier finden.
Weitere Informationen: Zur offiziellen Seite des Papers
Könnte man auch andere Bearbeitete Fotos damit Entlarven. Zum Beispiel Fotos von einer Digitalen Parkuhr die hinter einer Windschutzscheib klebt.
Gute Frage – ich denke mal, da müsste man die KI selber trainieren, dass sie auf sowas schaut. (Geht ja mittlerweile einfacher als man denkt)
Danke leider hab ich gar keine Ahnung von sowas. Ich hab nämlich den Verdacht dass die das Foto bearbeitet haben. Sie sagen die Uhr war aus aber wie ich geschaut habe Lief sie ganz normal.
Na ja werde ich mal schauen
Und es ist vier Jahre her (newws von 2019) – seitdem ist VIIIIIEL Entwicklung reingeschoben worden 🙂