Witajcie w świecie fikcji! Czym jest deepfake i dlaczego należy się go obawiać?

Każdy spotkał się już najpewniej z tym, co szumnie określane jest jako deepfake. Zwykle widzimy to w przeróbkach filmików na YouTube, niegroźnych, często zabawowych, no takich czysto rozrywkowych. I w związku z tym, w jakim kontekście przychodzi nam ów deepfakt oglądać, nie zdajemy sobie sprawy, że tego typu technologia niesie ze sobą poważne zagrożenia, nawet w kontekście społeczno-politycznej stabilności nowoczesnych społeczeństw. Zastanówmy się zatem, czy ten deepfake to faktycznie taka “fajna sprawa”, czy ma może jakieś drugie dno.

Deepfake kojarzy nam się z czymś, co określić można jako fantazję na temat programu Twoja twarz brzmi znajomo, tylko stworzoną przez ludzi, którzy znają się na robocie. Pamiętacie Luke`a w finale drugiego sezonu Mandalorianina? Pamiętacie jak “ktoś z internetu” zrobił swoją wersję młodego Jedi, która przebiła to, co wyprodukował Disney? Oto właśnie deepfake. Dający wiele radości i diabelnie niebezpieczny deepfake!

Radości? No pewnie! Jakżeż się można uśmiać oglądając twarze polityków czy celebrytów wstawione w kultowe postaci ze świata kinematografii, jak choćby John Rambo czy Jack Sparrow! A jakby tak znajomego, kumpla wstawić w jakieś głupie wideo z YouTube? No genialny pomysł na rozrywkę w gronie przyjaciół! A może by tak polecieć po bandzie i wstawić twarz znanego polityka w filmik, na którym nikomu nieznane osoby spożywają aż miło narkotyki (miękkie, twarde, al dente), czy tłuką się po pyskach na ulicy? Daje do myślenia? A powinno!

Deepfake to przykład tego, że powoli dochodzimy do sytuacji, w której wykreowanie czegokolwiek, stworzenie czegoś z niczego, w świecie cyfrowym jest kwestią czasu. Fajnie z jednej strony, bo pokazuje to nasze możliwości, to jak jesteśmy technologicznie (w tym sektorze konsumenckim, niezobowiązującym, przyziemnym takim) zaawansowanym gatunkiem. Pokazuje też, że nowe narzędzia wymagają nowych regulacji, by nie zachwiać stabilnością naszej rzeczywistości społecznej.

Istny Gutenberg ery instagramowych filtrów?

Umówmy się, że w czasach instagramowych filtrów, które potrafią w dramatycznym stopniu zmienić nasz wygląd, należało spodziewać się upowszechnienia technik cyfrowej manipulacji obrazem znanych dawniej jedynie z wysokobudżetowych hollywoodzkich filmów. Jasne, to pewne uproszczenie, ale w czasach, w których wszyscy poprawiamy się na własnych zdjęciach i filmach publikowanych w mediach społecznościowych fakt, że spopularyzowana zostanie technologia potrafiąca dosłownie nie tylko poprawiać nasze twarze, ale wręcz zmieniać je na inne był kwestią czasu. 

W przypadku deepfake mówimy jednak - co warto podkreślić - o technologii wysoce wyprzedzającej najlepsze nawet instagramowe filtry. To już zaawansowana sprawa jest, wiecie, sztuczna inteligencja, uczenie maszynowe, podmienianie elementu po elemencie i tworzenie iluzji tak doskonałej, że aż nieodróżnialnej od oryginału. To trochę, jak zestawić ręcznie przepisywane książki z Gutenbergowską prasą drukarską albo balon nadmuchany helem z lotem na księżyc. 

Wszędzie mamy pewne podobieństwa, wszystko to działa na zbliżonej do siebie wzajemnie płaszczyźnie, ale pod względem wyrafinowania te przełomowe rozwiązania, mówiąc wprost, nie biorą jeńców. Stanowią dosłownie krok w przyszłość. O ile jednak w przypadku prasy drukarskiej i szeroko rozumianej awioniki mamy do czynienia z jednoznacznie pozytywnymi innowacjami, o tyle deepfake pod ten jawny optymizm podpadać nie powinien.

Technologia piękna, tylko ludzie… złośliwi

Z jednej strony deepfake to świetny przykład na to, jak rozwinięta jest otaczająca nas technologia. No bo jak wytłumaczyć to inaczej? Skoro ktoś potrafi po godzinach zrobić lepszą iluzję, lepszy obraz twarzy bohatera kina rozrywkowego niż potężne studio filmowe z nieograniczonym kapitałem, to mówimy tu wymiernym przykładzie na wyrafinowanie rozwiązań technologicznych dostępnych dla mas. I to w sumie fajnie, bo otwiera to olbrzymie pole do popisu dla wszystkich kreatywnych, nieograniczone szanse na tworzenie rozrywki na użytek własny na wysokim poziomie.

Obejrzyj w

Deepfake to zatem super sprawa, genialna technologia, która ma również olbrzymie szanse na trafienie w niewłaściwe ręce. I nie mówimy tu nawet o stratach finansowych rozrywkowych gigantów, czy konfliktach na tle praw autorskich, własności intelektualnej etc. Zagrożenie czysto materialne dla świata korporacyjnego to jedna rzecz, drugą jest zaś fakt, że kradzież wizerunku jakiegoś aktora z czasów, gdy był on o kilkadziesiąt lat młodszy to pikuś, to małe piwo przy potencjalnych, a jednocześnie wcale realnych ryzykach związanych z upowszechnianiem się tak ingerujących w rzeczywistość technologii. Zwłaszcza mając na uwadze fakt, że my ludzie mamy jakiś naturalnie destrukcyjny popęd do obracania złych intencji w doświadczalne dramaty.

Realne zagrożenie?

W jednym z odcinków 7 sezonu serialu Blacklist (dobry popcornowy serial! Obłędny James Spader, tragiczna Megan Boone) oglądamy zmanipulowane nagranie, na którym jakiś tam profesor zapowiada, że wysadzi się w diabły, bo ktoś tam coś zrobił, co mu się nie podobało. Dzielna amerykańska policja znajduje tegoż profesora i pozbawia go życia nim ten zdąża wcielić swoje plany zrealizować, a po czasie okazuje się, że gęba profesora na krążącym w sieci filmie to wcale nie była gęba profesora. To znaczy była, ale nieprawdziwa. Zmanipulowana. No, że był to mega zaawansowany deepfake. Brzmi groteskowo? No tak średnio bym powiedział, tak średnio.

Wiadomo, że amerykańskie popcornowe seriale to zabijacze czasu, co to z realnym światem wspólnego wiele nie mają, ale akurat ten epizod, akurat ta scena rozstrzelania bogu ducha winnego naukowca dała mi osobiście nieco do myślenia. Wszak nie potrzeba dziś wiele wysiłku, by jakieś wideo obiegło i zszokowało świat zanim jego bohater bądź bohaterka zdąży zjeść poranną owsiankę, wypić kawę, zapalić papierosa, czy co tam preferuje w porze śniadaniowej. 

Dobrze otagowane, wrzucone z popularnego konta na YouTube i przedstawiające znaną powszechnie osobę wideo najpewniej zostałoby w mgnieniu oka milion razy udostępnione, pewnie pojawiłoby się w większości śniadaniowych i pośniadaniowych serwisów informacyjnych, nim ktokolwiek zastanowiłby się nad tym, czy jest prawdziwe, czy zostało stworzone intencjonalnie, za zgodą bohatera/bohaterki etc. 

Ba! Wszelkiej maści oglądacze zdążyliby dawno wyrobić sobie opinię o takim filmiku i tym, co by się na nim działo, nim ktokolwiek przygotowałby oficjalne stanowisko. Pewnie i kilka osób zweryfikowałoby materiał w jakimś serwisie pomagającym w sprawdzaniu wiarygodności publikowanych tu i ówdzie treści, ale finalnie - gdyby film taki miał zszokować świat, spokojnie udałoby mu się tego dokonać przed drugim śniadaniem. A konsekwencje takiegoż zszokowania mogłyby być umiarkowanie pozytywne.

Świat iluzji?

Jeśli dawniej, przed kilkoma, a w sumie i kilkunastoma, a nawet kilkudziesięcioma laty naukowcy, humaniści wszelkiej maści, rozważali zasadne przekonanie o paradygmacie życia w symulacji, analizowali w zaciszach swoich gabinetów i na konferencyjnych wystąpieniach zasadność twierdzeń Jeana Baudrillarda w jego (kultowej niemal) książce Symulakry i symulacja, to dziś nie ma już czego rozważać. Dziś fikcja staje się rzeczywistością na naszych oczach, a my jesteśmy w jej obliczu kompletnie bazradni. 

Obejrzyj w

Zatem, jak żyć? Ostrożnie! Rozważania o tym, jak potencjalnie groźny jest deepfake zakończyć należy refleksyjną próbą zaszczepienia przekonania, w myśl którego, nie należy wierzyć we wszystko, co przeczyta się w sieci, a tym bardziej we wszystko, co się w tej sieci obejrzy czy usłyszy. Weryfikujmy informacje, mówmy “sprawdzam” częściej niż rzadziej i zachwycajmy się technologicznymi nowinkami w kinach i podczas rozrywki, po pracy, w wolnej chwili, dystansując się od tego co wokół, wyrabiając sobie własną opinię na spokojnie, bez pośpiechu. 

W nowoczesność, która nadchodzi musimy jako społeczeństwo wejść jak alpinista, zawsze z jakimś konkretnym, solidnym jak cholera punktem podparcia. Jeśli bowiem nie zatroszczymy się o to, by samemu być fundamentem społecznej stabilizacji, to problemy jakie wygenerować będzie mógł byle student na tyle ogarnięty, by zdeepfake`ować jakieś wideo z kimś znanym i wpływowym będą kolosalne! Kolosalne, czyli jakie? Powiedzmy, że skala zaczyna się na masowej dezinformacji, a kończy scenami rodem z Blacklist.