Komputery zastąpią zmarłych? Naukowcy ostrzegają przed technologią

Deadboty to aplikacje lub programy komputerowe, które symulują rozmowy z osobami zmarłymi na podstawie zgromadzonych danych, takich jak wiadomości tekstowe, e-maile i posty w mediach społecznościowych. Działają one poprzez analizowanie i przetwarzanie tych danych, tworząc modele językowe, które naśladują sposób komunikacji danej osoby. Dzięki temu użytkownicy mogą prowadzić rozmowy, które przypominają interakcje z ich bliskimi, którzy odeszli. 

Głównym celem deadbotów jest zapewnienie wsparcia emocjonalnego i poczucia bliskości dla osób, które straciły kogoś bliskiego. Są one kierowane przede wszystkim do ludzi, którzy szukają sposobu na złagodzenie bólu po stracie oraz chcą zachować wspomnienia o zmarłych. Jak informuje serwis Newseria, deadboty mogą stanowić zagrożenie dla osób żyjących, ponieważ istnieje ryzyko manipulacji ludźmi w żałobie i oddziaływania na ich stan psychiczny. Szczegóły opisują etycy sztucznej inteligencji z Leverhulme Centre for the Future of Intelligence w Cambridge.

Deadbot to bardzo szczególny rodzaj technologii, która tworzy iluzję obecności zmarłego. Program komputerowy otrzymuje bardzo duże ilości danych o kimś, kto zmarł. Potem analizuje te dane i sprawia, że powstaje właśnie taka namiastka, wirtualna reprezentacja tej osoby, która komunikuje się z nami w języku naturalnym, czyli dokładnie w takim języku, w jakim my porozumiewamy się między sobą. Oczywiście nie ma mowy o żadnym przenoszeniu świadomości czy kontynuacji tego życia w biologicznej formie. System symuluje zachowanie i pewne charakterystyczne sposoby wypowiadania się – tłumaczy w wywiadzie dla agencji Newseria Innowacje dr Katarzyna Nowaczyk-Basińska z Leverhulme Centre for the Future of Intelligence na Uniwersytecie w Cambridge.

Obejrzyj w

Rośnie zainteresowanie deadbotami 

Zainteresowanie deadbotami rośnie w siłę dzięki popularności modeli językowych takich jak ChatGPT. Technologia pozwala tworzyć cyfrowe awatary zarówno dla zmarłych ludzi, jak i ukochanych zwierzaków. 

Od dwóch lat, ale szczególnie w ostatnim roku, pojawia się coraz więcej firm, które oferują tego typu serwisy. Niektóre targetują osoby, które chcą same siebie za pomocą sztucznej inteligencji zachować dla potomności. Inne skupiają się na osobach, którym odszedł ktoś bliski, a z kim chciałyby odtworzyć kontakt poprzez sztuczną inteligencję. Tych serwisów jest coraz więcej, nie tylko w Europie i w Stanach, ale szczególnie w Chinach, Indiach czy Korei – wskazuje dr Tomasz Hollanek z Leverhulme Centre for the Future of Intelligence w Cambridge. 

Naukowcy przestrzegają przed deadbotami 

W jakim kierunku pójdzie koncepcja deadbotów? Naukowcy zwracają uwagę, że technologia postępuje w szybkim tempie, a do tego nie ma prawnych ograniczeń. Etycy sztucznej inteligencji z Leverhulme Centre for the Future of Intelligence w Cambridge zarysowali możliwe scenariusze rozwoju takich platform. 

Pierwszy scenariusz, nazwany MaNana (Moja Babcia), przedstawia problem wykorzystywania wizerunku zmarłych bliskich do sprzedaży produktów. Może to prowadzić do manipulacji, dlatego ważne jest, aby zarówno użytkownicy, jak i osoby, których wizerunki są używane, wyrażali świadomą zgodę. 

Drugi scenariusz dotyczy rodziców, którzy tworzą cyfrową reprezentację terminalnie chorej matki dla swojego ośmioletniego dziecka. Takie sytuacje budzą obawy, ponieważ firmy mogą monetyzować doświadczenie żałoby, a wpływ symulowanych zmarłych na proces żałoby, zwłaszcza u dzieci, jest wciąż nieznany i ryzykowny. 

W trzecim scenariuszu osoba umierająca kupuje 20-letnią subskrypcję na deadbota, wierząc, że pomoże to jej bliskim w żałobie. Jednak niechętny użytkownik jest zasypywany wiadomościami, co prowadzi do frustracji, podczas gdy inny korzysta z deadbota z obowiązku, co powoduje emocjonalne wyczerpanie. 

Naukowcy sugerują, że należy chronić szczególnie podatne grupy społeczne, takie jak dzieci, przed negatywnym wpływem tych technologii. Eksperci zalecają, aby dostęp do griefbotów był ograniczony wiekowo, dostępny tylko dla dorosłych, i aby użytkownik był świadomy, że ma do czynienia z cyfrową reprezentacją zmarłego, a nie z prawdziwą osobą. 

Twórcy, również dziennikarze, mogliby potencjalnie czerpać zyski z takich awatarów, które naśladowałyby ich styl i mogłyby np. dalej utrzymywać ich rodziny. Jest to jeden z ciekawych, potencjalnych obszarów rozwoju dla tych technologii, który też wiąże się z różnymi zagrożeniami. Jesteśmy przekonani, że należałoby te technologie ostrzej regulować. Niedawno został zatwierdzony w Unii Europejskiej AI Act, który jak już wejdzie w pełni w życie, będzie stanowił pierwszy krok w tym kierunku, ale jest tam też dużo dziur – podkreśla dr Tomasz Hollanek z Leverhulme Centre for the Future of Intelligence w Cambridge. – AI Act delegalizuje sztuczną inteligencję manipulującą użytkownikami, przekonującą ich do podejmowania decyzji, których w innych warunkach by nie podjęli. Ale jest tam też taki dopisek, że w pewnych sytuacjach, na przykład jeśli celem rozwoju takiej technologii jest pomoc danej osobie w sferze zdrowia, te aplikacje są w pewnym sensie wyjęte poza nawias. To jest coś, co my widzimy jako duże zagrożenie. Firmy, które produkują deadboty, mogą próbować uniknąć regulacji, sprzedawać swoje serwisy jako technologie wspomagające zdrowie psychiczne. 

Technologia ma też dobre strony 

Naukowcy zwracają uwagę na niebezpieczeństwa związane z rozwojem deadbotów, jednak technologia może być również wykorzystana do edukacji i tworzenia platform do międzypokoleniowej wymiany historii, doświadczeń i przeżyć. 

W tym roku naukowcy rozpoczęli projekt badający różne koncepcje i możliwości dotyczące naszej obecności po śmierci w erze sztucznej inteligencji. Badacze zastanawiają się, jak można zmieniać i zarządzać naszymi pośmiertnymi danymi, uwzględniając różnorodność preferencji dotyczących reprezentacji po zgonie.

foto na wejście: Adobe Stock