Deepfake na celowniku Facebooka. Trwają prace nad technologią do wykrywania zmanipulowanych filmów

Deepfake wciąż stanowi spore wyzwanie dla portali społecznościowych. Jest też źródłem obaw wielu specjalistów o wiarygodność filmów umieszczanych w przestrzeni publicznej.

Praktycznie każdy może stworzyć zmanipulowane nagranie przy wykorzystaniu sztucznej inteligencji. Umieszczając taki spreparowany klip w internecie, niezwykle łatwo można rozpropagować treści fałszujące rzeczywistość. A niektóre z tych filmów są naprawdę dobrze wykonane.

Deepfake Detection Challenge

Facebook niedawno ogłosił zwycięzców Deepfake Detection Challenge (DFDC). Konkurs ruszył w zeszłym roku i wzięło w nim udział ponad 2 tysiące uczestników z całego świata, którzy zgłosili 35 tysięcy algorytmów. Celem wyzwania było opracowanie skutecznego systemu wykrywania i oznaczania filmów zmanipulowanych przez sztuczną inteligencję.

Na organizację konkursu Facebook wydał około 10 milionów dolarów. Zadbano o stworzenie 100 tysięcy krótkich filmów, wyglądających jak amatorskie nagrania z portali społecznościowych. Następnie podzielono je na zestawy publicznie dostępne oraz „black box”.

W przypadku zestawów publicznych, uczestnicy konkursu opracowali algorytmy wykrywające sfałszowane nagrania z ponad 82% dokładnością. Z kolei „black box” zawierał 10 tysięcy filmów, w których zastosowano dodatkowe manipulacje (zmieniona jakość lub liczba klatek, dodane obrazy itp.). Tutaj było trochę trudniej, a dokładność zwycięskiego algorytmu wyniosła nieco ponad 65%.

Facebook chce kontrolować deepfake

Firma twierdzi, że efekty konkursu okazały się sporym sukcesem, a postępy w pracach zajęły zaledwie kilka miesięcy. Wyniki są obiecujące, jednak minie jeszcze sporo czasu zanim systemy będą naprawdę sprawnie wykrywać fałszywe filmy.

Mike Schroepfer (dyrektor ds. technologii Facebooka) uważa, że na razie deepfake nie sprawia kłopotów na większą skalę. Powiedział, że:

„Obecnie nie jest to duży problem, ale brak narzędzi do automatycznego wykrywania i egzekwowania określonej formy treści naprawdę ogranicza naszą zdolność do robienia tego dobrze na dużą skalę”.

Zwycięskie algorytmy zostaną udostępnione w ramach open source, aby pomóc innym naukowcom w rozwijaniu ich badań. Schroepfer powiedział, że Facebook już korzysta z własnej technologii do wykrywania niektórych deepfake’ów, która jest ciągle rozwijana i ulepszana. Jednak firma nie poinformowała ile filmów udało się do tej pory automatycznie zidentyfikować i oznaczyć, zatem można przypuszczać, że nadal nie osiągnięto zadowalającego wyniku.

Social media mają coraz większą władzę

Alex Stamos (były szef bezpieczeństwa Facebooka) już dawno ostrzegał przed zbyt dużą kontrolą spoczywającą w rękach korporacji technologicznych. Twierdzi, że problem dezinformacji w krajach demokratycznych nigdy tak do końca nie ostanie rozwiązany. Zauważył też, że jeżeli rządy nadal będą zgadzały się na ograniczanie przez korporacje tego, co można w internecie a czego nie, może to w końcu doprowadzić do moderacji wszystkiego co publikujemy.

Jak myślicie, czy rozpoznawanie deepfake’ów będzie kolejnym krokiem do zwiększenia kontroli algorytmów nad treściami, które będzie można umieszczać w internecie? Wzrośnie ilość usuwanych wpisów w mediach społecznościowych? A może w efekcie okaże się to pozytywne i pomoże utrzymać porządek w sieci?

Źródła: engadget, theverge, cyberdefence24, wired

Warto zobaczyć również:

• Czy Sztuczna Inteligencja może być rasistą? - bo przecież uczy się na przykładach
• Więzienie za deepfake’i i fake newsy - czy w Polsce też tak powinno być?
• Chcesz być gwiazdą filmu? Snapchat Cameo umieści twoją twarz w animacji