Nolan o sztucznej inteligencji: To moment Oppenheimera. Przerażające
Przedpremierowy pokaz “Oppenheimera” był dla jego reżysera okazją do podniesienia ważkiego tematu rozwoju sztucznej inteligencji. Moment, w którym aktualnie się znajdujemy, Nolan określił mianem “momentu Oppenheimera”. Konsekwencje mogą przerażać.
Moment Oppenheimera – Nolan o zagrożeniach sztucznej inteligencji
Podczas nowojorskiego panelu, zorganizowanego przy okazji przedpremierowego pokazu “Oppenheimera”, Christopher Nolan wyraził swoje obawy w odniesieniu do sztucznej inteligencji.
Podczas wydarzenia towarzyszyli mu m.in. dyrektor Los Alamos National Laboratory, dr Thom Mason, fizycy, dr Carlo Rovelli i dr Kipa Thorne, a także Kai Bird, współautor tytułu “Amerykański Prometeusz Triumf i tragedia Roberta Oppenheimera”, na podstawie którego powstał najnowszy film Nolana.
Reżyser dostrzegł wzrost liczby firm w ciągu ostatnich 15 lat, które używają słów, takich jak algorytm – nie wiedząc, co to oznacza w jakimkolwiek sensownym, matematycznym sensie [...].
To jednak nie ignorancja jest zdaniem Nolana największym zagrożeniem. To ostatnie leży w braku chęci brania odpowiedzialności za czynione kroki w zakresie rozwoju SI:
W przypadku sztucznej inteligencji jest to przerażająca możliwość [...]. Nie tylko dlatego, że systemy sztucznej inteligencji ostatecznie trafią do infrastruktury obronnej. Będą odpowiadać za broń nuklearną. Powiedzieć, że jest to odrębny byt od osoby dzierżącej, programującej, wykorzystującej tę sztuczną inteligencję, oznacza skazanie na porażkę. Musi chodzić o odpowiedzialność. Musimy pociągnąć ludzi do odpowiedzialności za to, co robią z narzędziami, które mają
– kontynuował.
Dostrzegł też analogię pomiędzy badaniami nad bronią atomową a rozwojem sztucznej inteligencji, podkreślając doniosłość momentu, w którym aktualnie się znajdujemy:
Kiedy rozmawiam teraz z czołowymi naukowcami w dziedzinie sztucznej inteligencji, dosłownie odnoszą się do tego — w tej chwili — jako do swoistego momentu Oppenheimera. Patrzą na historię, aby zapytać: »Jaka jest odpowiedzialność naukowców opracowujących nowe technologie, które mogą mieć niezamierzone konsekwencje?«.
Podzielacie jego obawy?
Oppenheimer – kiedy premiera?
“Oppenheimer” w kinach zadebiutuje już w najbliższy piątek, 21 lipca.
Źródło: Variety, Universal Pictures
Komentarze
4Nie da się nic właściwie zrobić.
Przy obecnej geopolityce, to już nawet nie interesy różnych firemek zadecydują o złych kierunkach rozwoju. W Chinach nie ma za bardzo problemów z etyką. Nikt ich nie powstrzyma przed rozwojem AI do złych celów, zarówno wewnętrznych jak i zewnętrznych. Nie wspominając o Rosji, ale tam gorzej będzie z dostępem do odpowiedniego sprzętu. Irany i podobne też będą próbować... Im słabsza AI i gorzej nauczona, tym większe będą przekłamania i możliwe katastrofy w decyzjach.
A to oznacza też, że cokolwiek oficjalnie się ustali to i tak w krajach takich jak USA, GB itd również prace będą się odbywać na maxa.
I pierwszym problemem znowu będzie nie tyle, to że AI miałoby uzyskać jakąkolwiek świadomość, ale błędy ludzkie i złe intencje.
Co by się stało przykładowo gdyby putin miał do dyspozycji jakąś potężną AI doradczą i ona twierdziła, że spuszczenie parę atomówek tu i tam, na krótką metę będzie niedobre, ale w dłuższej perspektywie da mu ogromną władzę i przewagę? Itd...
No ale bench-plotek musiał o tym napisać, bo przecież mogą z tego być kliknięcia....