Wstrzymajmy się z AI zanim będzie za późno - apelują eksperci i Elon Musk
Grupa ekspertów w dziedzinie AI wraz z Elonem Muskiem i kilkoma innymi dyrektorami branży technologicznej nawołują do półrocznej przerwy w pracach nad systemami potężniejszymi niż nowy GPT-4.
Elon Musk i strach przed sztuczną inteligencją
Elon Musk jest jednym z sygnatariuszy listu otwartego wzywającego do zahamowania prac nad potężniejszymi wersjami sztucznej inteligencji i skupienia się na kwestiach bezpieczeństwa dotyczących tej technologii. List otwarty został napisany przez Future of Life Institute, którego Musk jest jednym z największych fundatorów. Osiem lat temu przekazał on organizacji 10 milionów dolarów wsparcia, na badania dotyczące bezpieczeństwa AI dla ludzkości. Miliarder na początku marca mówił o tym, że zbyt szybki rozwój sztucznej inteligencji to dla niego powód do stresu.
Musk jednak nie obawia się AI, kiedy kieruje ona autonomicznym samochodem, bo jak wskazuje zarzucający mu hipokryzję profesor James Grimmelmann z uniwersytetu Cornell, sam bronił sztucznej inteligencji w autopilocie Tesli, przed zarzutami ze strony amerykańskiego organu legislacyjnego. Ostatecznie niedoskonałość tej technologii w jego elektrycznych samochodach doprowadziła do wycofania do warsztatu kilkuset tysięcy pojazdów Tesli celem aktualizacji oprogramowania. Grimmelmann co do zasady zgadza się z treścią listu, jednak zaznacza, że został on napisany słabo i rzeczywiste problemy regulacyjne traktuje po macoszemu.
Sygnatariusze apelu
Poza Elonem Muskiem wśród osób, które podpisały list, znajduje się między innymi współzałożyciel Apple Steve Wozniak i grono poważanych osobistości świata nauki. Pod tekstem możemy zobaczyć "ojca chrzestnego sztucznej inteligencji" i zdobywcę nagrody Turinga - Yoshuę Bengio, a także dyrektora Biuletynu Naukowców Atomowych, którzy odpowiedzialni są za poruszanie wskazówek Zegara Zagłady - Rachel Bronson. Warto wspomnieć, że wzmożony rozwój sztucznej inteligencji został przyjęty jako jeden ze wskaźników zbliżających ludzkość do smutnego końca, kiedy w tym roku Biuletyn ogłosił przesunięcie się wskazówek na rekordowe 90 sekund do północy.
List, który podpisało już ponad 1300 osób, wzywa do trwającego 6 miesięcy zawieszenia wszystkich badań w laboratoriach sztucznej inteligencji i wstrzymanie szkolenia nowych sieci neuronowych, które mogłyby mocą przerosnąć opublikowany niedawno GPT-4. Ma to na celu danie ludzkości wystarczająco dużo czasu na obmyślenie stosownych regulacji dla tej technologii i dogłębne zbadanie jak największej liczby niebezpieczeństw, jakie może ona ze sobą nieść.
Giganci AI nie podnoszą na razie rzuconej rękawicy
Zarówno kierownictwo OpenAI, jak i włodarze Microsoftu i Alphabet nie odnieśli się jeszcze do sprawy, choć pod listem można znaleźć podpisy badaczy z należącego do Alphabet Deep Mind. Milczenie firm, które zainwestowały grube miliony w rozwój technologii AI, zwraca uwagę niektórych z sygnatariuszy listu, między innymi profesora Garry'ego Marcusa z uniwersytetu w Nowym Jorku.
Wielcy gracze coraz bardziej ukrywają to, co robią, co utrudnia społeczeństwu obronę przed wszelkimi szkodliwymi następstwami, jakie mogą z tego wyniknąć.
Źródła: reuters, engadget
Komentarze
31Musk jest ogarnięty jeżeli chodzi o pewne rzeczy, a w przypadku innych rzeczy jest paranoikiem, albo po prostu nie wie, o czym mówi.
Linus Pauling nam świadkiem, że pewien stopień geniuszu, nie chroni przed byciem idiotą.
Nic tak mnie nie drażni, jak próżna hipokryzja celebrytów.
Wystarczy eksperci. Nie rozumiem, czemu służy dopisywanie celebrytów do listy. Dziwne czasy nastały, że o zagadnieniach specjalistycznych posłuch mają jutuberzy, biznesmeni, piosenkarze, słynni sportowcy, influanserzy i wszelkiej innej maści szołmeni.
Wygląda na to, że aby twoje zdanie było kluczowe, wystarczy... stworzyć prostacki, acz chwytliwy utwór rapowy albo po prostu odziedziczyć majątek.