Nie wierz we wszystko, co widzisz. Szczególnie przed wyborami

Eksperci z dziedziny bezpieczeństwa cyfrowego zwracają uwagę, że w okresie poprzedzającym wybory, liczba potencjalnych zagrożeń w sieci może znacznie wzrosnąć. Wraz z tym wzrostem można także zaobserwować większą liczbę doniesień o fałszywych nagraniach, które wykorzystują technologię sztucznej inteligencji i tzw. deepfake. 

Deepfake przed wyborami

Technologia Deepfake, która wykorzystuje sieci neuronowe, pozwala użytkownikom na generowanie filmów lub nagrań dźwiękowych, które wykorzystują wizerunek istniejących osób. Źródłem najczęściej są istniejące materiały audio i wideo, przetworzone jednak przez odpowiednie algorytmy. Dzięki temu można na przykład podmienić twarz osoby występującej w oryginalnym materiale na twarz kogoś innego, zachowując mimikę i ruchy z pierwotnego filmu. Możliwe jest również klonowanie głos, a następnie zaserwowanie mu dowolnego tekstu do przeczytania. 

Materiały imitujące nagrania polityków mogły wpłynąć na wyniki wyborów na Słowacji, które niedawno się odbyły. W związku z tym, eksperci zalecają zachowanie ostrożności i dokładne weryfikowanie informacji.

Za przykład niech posłuży nagranie dźwiękowe, które pojawiło się na Facebooku dwa dni przed niedawnymi wyborami na Słowacji. Nagranie to rzekomo przedstawiało rozmowę między Michalem Šimečką (a więc liderem liberalnej partii Postępowa Słowacja) a Moniką Tódovą (dziennikarą czasopisma Denník N). W rozmowie omawiane były rzekome metody sfałszowania wyborów, takie jak kupowanie głosów mniejszości romskiej.

Šimečka błyskawicznie zaprzeczył autentyczności nagrania, a zespół sprawdzający fakty agencji informacyjnej AFP potwierdził, że faktycnzie nagranie najprawdopodobniej zostało zmanipulowane z wykorzystaniem sztucznej inteligencji. Problem w tym, że fałszywy post pojawił się w czasie ciszy wyborczej, przez co temat był trudny do sprostowania. Obecnie trwa dyskusja na temat potencjalnego wpływu tego zdarzenia na wynik wyborów.

Weryfikuj, co słyszysz i widzisz

Specjaliści od bezpieczeństwa cyfrowego zwracają też uwagę na to, że w mediach społecznościowych pojawiają się inne materiały zawierające fałszywe wypowiedzi polskich polityków. Zazwyczaj mają one formę żartu lub nie są na tyle technicznie zaawansowane, aby mogły być uznane za autentyczne. Niemniej jednak, część mniej świadomych odbiorców może je uznać za prawdziwe. A to niemały problem.

Kamil Sadkowski, analityk laboratorium antywirusowego ESET, wyjaśnia: „Nowe, szybko rozwijające się technologie oparte o AI umożliwiają praktycznie każdemu tworzenie fałszywych treści, które mogą zawierać wizerunek nieświadomych użytkowników. Cyberprzestępcy mogą wykorzystywać je nie tylko do nękania i szantażowania swoich ofiar. Nielegalnie bywa też wykorzystywany wizerunek znanych osób: polityków czy celebrytów”.

„Szczególnie niebezpiecznym aspektem jest to, że narzędzia pozwalające na tworzenie nagrań tego typu są bardzo łatwo dostępne i nie wymagają zaawansowanych umiejętności technologicznych. Może więc sięgać po nie coraz więcej osób, zarówno takich, które chcą je wykorzystać do niecnych celów (szerzenia nieprawdy, szantażu, podsycania niepokojów, destabilizacji), jak i takich, które mylnie uważają, że będzie to dobry żart. Intencje czasem trudno odróżnić, a skutki – mogą niestety być przeróżne” – dodaje Sadkowski. 

Źródło: ESET