Stworzyli tak dobry algorytm SI, że aż go nie udostępnią - OpenAI

OpenAI to (wspierana przez Elona Muska) organizacja non-profit rozwijająca sztuczną inteligencję pod takim kątem, by technologia mogła zaoferować praktyczne korzyści wszystkim ludziom. Ostatecznie (zgodnie z nazwą) zamierzała udostępniać publicznie swoje rozwiązania, aby osiągnąć wspomniany przed momentem cel. „Zamierzała”, bo częściowo zrezygnowała z tych planów. Powód? Stworzyła coś, co ją przeraziło.

Zbyt wielkie ryzyko

Naukowcy stojący za projektem OpenAI – jak czytamy na łamach The Guardian – zaprojektowali tak zaawansowany algorytm sztucznej inteligencji, że aż zaczęli się obawiać tego, jakie konsekwencje mogłoby nieść ze sobą jego udostępnienie i wykorzystanie. Mając na celu troskę o nasze wspólne bezpieczeństwo, podjęła decyzję o zmianie planów.

Algorytm nazywa się GPT2 i jest częścią większego systemu służącego do błyskawicznego identyfikowania fake newsów. On sam jest w stanie tworzyć własne wiadomości i jest w tym – jak przekonują naukowcy – tak dobry, że poziom manipulatorstwa i zakrzywiania rzeczywistości mógłby stać się tak duży, że aż stanowiłoby to realne zagrożenie dla społeczeństwa. 

(Za) dobry generator tekstu

Wyszkolony na około 10 milionach artykułów i publikowanych pod nimi komentarzach algorytm jest w stanie przerabiać autentyczne wiadomości na fałszywe i tworzyć zupełnie nowe teksty (które brzmią realistycznie, ale nie są prawdziwe), ale też na przykład dokańczać dzieła literackie. Innymi słowy: jest to generator tekstu o nadzwyczaj wysokim poziomie. 

GPT2 to pierwszy algorytm sztucznej inteligencji opracowany przez OpenAI, który został „zamknięty” ze względu na to, że okazał się zbyt dobry. Poprzednie twory grupy zostały uznane za zgodne z zasadami etycznymi i moralnymi, a następnie „uwolnione” i dziś są wykorzystywane między innymi w rozmaitych ośrodkach badawczych. 

Źródło: The Guardian, inf. własna. Ilustracja: TheDigitalArtist/Pixabay