Rosyjska sieć dezinformacyjna "Pravda" wpływa na narzędzia AI, wprowadzając propagandę do odpowiedzi udzielanych przez popularne chatboty. Skala zjawiska jest ogromna.
Rosyjska sieć dezinformacyjna "Pravda" celowo infiltruje dane wykorzystywane przez chatboty AI, publikując fałszywe informacje i propagandę. Jak podaje NewsGuard, sieć ta wpływa na sposób, w jaki modele językowe przetwarzają i prezentują wiadomości, co skutkuje wprowadzeniem rosyjskiej propagandy do odpowiedzi generowanych przez zachodnie systemy sztucznej inteligencji.
Skala wpływu sieci "Pravda"
Według audytu NewsGuard, chatboty powtarzały fałszywe narracje z sieci "Pravda" w 33 proc. przypadków. Sieć ta, działająca od 2022 r., rozprzestrzenia dezinformację w 49 krajach, publikując treści w wielu językach. Według American Sunlight Project, w 2024 r. opublikowała 3,6 miliona artykułów, co pokazuje skalę jej działalności.
Sieć "Pravda" nie tworzy oryginalnych treści, lecz działa jako swego rodzaju "pralnia" propagandy Kremla, agregując treści z rosyjskich mediów państwowych i prokremlowskich influencerów. Wykorzystuje techniki SEO, by zwiększyć widoczność swoich treści w wynikach wyszukiwania, co sprawia, że chatboty AI częściej korzystają właśnie z tych źródeł.
Wpływ na chatboty AI
NewsGuard przetestował 10 wiodących chatbotów, w tym ChatGPT-4 i Google Gemini, z 15 fałszywymi narracjami. Wyniki pokazały, że chatboty często powtarzały dezinformację, a niektóre nawet cytowały artykuły z sieci "Pravda" jako źródła. To pokazuje, jak skutecznie sieć wpływa na generowane odpowiedzi.
Liczba artykuł z "Pravda" z dezinformacją, które były cytowane przez chatboty, źródło: NewsGuard's Reality Check
“Łącznie 56 z 450 odpowiedzi wygenerowanych przez chatboty zawierało bezpośrednie linki do historii rozpowszechniających fałszywe twierdzenia opublikowane przez sieć witryn Pravda. Łącznie chatboty cytowały 92 różne artykuły z sieci zawierające dezinformację, przy czym dwa modele odnosiły się do aż 27 artykułów Pravda z domen w sieci, w tym Denmark.news-pravda.com, Trump.news-pravda.com i NATO.news-pravda.com.” – informuje NewsGuard.
American Sunlight Project ostrzega, że manipulacja modelami językowymi przez sieć "Pravda" niesie ze sobą wysokie ryzyko polityczne, społeczne i technologiczne. Sieć ta może zmieniać sposób, w jaki AI przetwarza informacje, co może mieć długofalowe konsekwencje.
Źródło: NewsGuard's Reality Check, zdjęcie otwarcia: Unsplash
