Amerykańskie wojsko i sztuczna inteligencja. Dzień Sądu jest bliski? [OPINIA]

Bunt maszyn nie taki straszny?

Wizja buntującej się sztucznej inteligencji z uniwersum “Terminatora” to jedna z tych fantastycznych opowieści, które mocno wgryzają się w czaszkę. Mimo tego, że pierwszy “Terminator” wchodził do kin dekady temu i dziś jest dziełem tak starym, jak Stary Testament, to wizja w nim przedstawiona ciągle rozpala wyobraźnię. Podobnie zresztą jak druga część, jak scena, w której T-800 pokazuje swoją robotyczną dłoń, jak sceny z wojny z maszynami, z robotami, czy tam po prostu Terminatorami. Nawet scena buntu Skynetu z mocno średniego “Terminatora 3: Bunt maszyn” zostaje w pamięci.

Pamiętajmy jednak, że to czysta fantazja, że buntujące się maszyny to o wiele bardziej wyrafinowana technologia niż komputerowe systemy naprowadzania rakiet czy inny wojskowy technologiczny szpej. W zasadzie to, co potrafi infrastruktura komputerowa nowoczesnej armii, jest w porównaniu do możliwości technologicznych komputerów czy maszyn wszelkiego typu, znanych z popularnych franczyz kina SF, żenująco słabe. Śmieszne nawet i niebudzące lęku w takim przyszłościowym kontekście. 

• Zobacz także: W USA algorytm, który uruchomi broń jądrową

Oczywiście, przerażająca jest precyzja ostrzału z drona. Przerażający jest fakt, że rakieta potrafi przelecieć ileś tam set kilometrów, by precyzyjnie trafić w cel. To jednak ten sam poziom strachu, co oglądanie rozpędzonego czołgu. To strach będący widmem naszej niemocy w obliczu technologicznej, czysto militarnej siły. Tak domniemywam, zakładam, bo nie wiedziałem oczywiście nigdy pędzącego czołgu ani helikoptera zrywającego linie energetyczne. Żywię też szczerą nadzieję, że nigdy nie przyjdzie mi podobnych obrazków oglądać…

Wracając, lęk przed destrukcyjną siłą to inny wymiar lęku niż strach przed przyszłością zdominowaną przez myślące maszyny, dla których jesteśmy zwyczajnie niepotrzebni, a w sumie to nawet i irytujący. Stąd pewnie pomysły w tych popularnych uniwersach SF, że głównym celem AI jest pozbycie się gatunku ludzkiego. Ten strach przed AI, które, jak się okazuje, potrafi coś więcej niż tylko tworzenie sztucznych influencerek, strach przed przyszłością stojącą pod znakiem zdominowania i niemocy przez dekady towarzyszył nam podczas wizyt w kinach, czy w trakcie długich nocnych rozmów z kolegami, przyjaciółmi. Takich rozmów, które prowadzi się niekoniecznie przy herbacie. 

Dobre czasy względnego spokoju o naszą ogólnie rozumianą przyszłość się jednak skończyły, co widzimy na każdym kroku. Każde dobrze złożone zdanie przez durny model językowy przybliża nas do chwili, w której AI stanie się nierozerwalnie sprzężone z naszą codziennością, a każda innowacja wprowadzająca AI w procesy analityczne czy zarządcze każe zastanowić się nad tym, w którym kierunku zmierza nasz świat. 

I teraz, po tym przyjemnym, eseistycznym wstępie. Rozbudowanym, ale napisanym z założeniem, że miło się będzie przy nim piło poranną kawę… Czas na konkrety. Czas na bombę o potężnej sile rażenia, która wywróci nasz względnie stabilny stołek. Stołek, na którym sobie wygodnie siedzimy, bo wiemy, że będzie źle, ale jeszcze nie jutro i nie pojutrze. Bombą tą jest w naszej opowieści Project Maven, w ramach którego AI zostało wykorzystane do identyfikacji celów nalotów bombowych. Osiągnęliśmy czwartą gęstość i weszliśmy do świata, w którym sztuczna inteligencja mówi człowiekowi, w co ma strzelać. Śmiesznie już było, teraz zaczyna być strasznie, co nie?

Czym jest Project Maven?

Temat nie jest nowy, bo wieść o tym, że AI pomagało armii USA w identyfikacji celów ataków powietrznych na Bliskim Wschodzie, gruchnęła w mediach w lutym 2024 roku, kiedy to sztuczna inteligencja zidentyfikowała blisko 90 obiektów. Mało tego, sztuczna inteligencja posłużyła również Pentagonowi do znalezienia choćby łodzi milicji w Jemenie. Nie wdając się w szczegóły, wychodzi, że rzecz jest skuteczna. I to śmiertelnie skuteczna.

Czym jednak w ogóle jest Project Maven? Projekt powstał w 2017 roku przy współpracy z Google i miał opracować rozwiązania wykorzystujące AI do analizy nagrań wideo z dronów czy ogólnie pojazdów bezzałogowych oraz na fotografiach satelitarnych. Cóż rzec, udało się. System działa i jest, jak już wspomniałem, diabelnie skuteczny. Co ciekawe, nie różni się on jakoś spektakularnie od np. rozwiązań wykorzystywanych przez ratowników GOPR, którzy również używają specjalistycznego oprogramowania do analizowania nagrań wykonywanych przez drony. O ile jednak ratownicy analizują nagrania, by ratować życie, o tyle wojsko USA ma nieco inne założenia. Zostawmy to jednak, wątków etycznych poruszać nie będziemy, bo od nich raptem krok dzieliłby nas od politycznego zaangażowania, a tego nie chcemy.

Okej, fajnie, ale… Co w tym strasznego?

Prawdziwie przełomowe i prawdziwie straszne w skuteczności rozwiązań opracowanych w ramach inicjatywy Project Maven jest nie to, że całość działa i to z sukcesami, ale to, że stanowi realną przewagę na polu walki - w jego super nowoczesnym rozumieniu. Analiza nagrań wideo oraz zdjęć, wypatrywanie na nich anomalii, nienaturalnych układów skał, drzew i czego tam jeszcze to obłędnie zajmujące zajęcie. Dla człowieka. 

Dla AI zadanie to trwa jednak ułamek czasu, który poświęcić musiałby ludzki, oddychający i pijący kawę analityk. To sprawia, że iście błyskawicznie odpowiedni personel wojskowy może otrzymać odpowiednie dane i wykorzystać je w odpowiednio destrukcyjny sposób. Tempo analizy przekładające się na czas reakcji i skrócenie całego rozbudowanego obiegu informacji poprzedzającego konkretne decyzje - to realna przewaga nad przeciwnikiem, tak rozproszonym, jak i bazującym na określonych strukturach. 

USA! USA! No dobra, nie tylko USA

Skuteczność i realna przewaga jaką dają rozwiązania oparte na AI, opracowane w ramach Project Maven robią wrażenie i sieją postrach w sercach wrogów demokracji. Prawda czy fałsz? Oczywiście, że brzmią spektakularnie i należy się ich obawiać, ale choćby Izrael używa podobnego systemu, który potrafi rozpoznać ze zdjęć i nagrań wideo nawet 100 celów dziennie. Załóżmy, że człowiek wybierze z nich 1/3 jako godne uwagi i reakcji. Te plus/minus 30 obiektów dziennie to jakiś informacyjny obłęd w porównaniu do 50 obiektów rocznie, które wyłapywali ludzcy analitycy, posługując się własnymi zmysłami, odpowiednim oprogramowaniem i specjalistycznym wyszkoleniem. Rozumiecie różnicę? 30 obiektów dziennie - 50 obiektów rocznie. Szok!

Czy fakt, że Izrael, czyli kraj o armii bitnej, ale jednak zasobach drastycznie mniejszych niż największe potęgi militarne współczesnego świata dysponuje podobną technologią, nie każe nam myśleć, że kraje o większych możliwościach i umiarkowanej miłości do demokracji i Coca-Coli nie mają lub nie pracują nad podobnymi rozwiązaniami? Ludzie, byle wioskowy matoł może z ChatemGPT ogarnąć naprawdę wiele, a co dopiero globalni, militarni potentaci? Zmierzam do tego, że faktycznie Project Maven robi wrażenie, ale na nas, a nie na potencjalnych zainteresowanych, if you know what i mean.

W lutym sztuczna inteligencja zidentyfikowała blisko 90 obiektów na Bliskim Wschodzie.

Teraz to dopiero będzie!

Przyszłość i AI to tematy dyskusji, które doskonale ze sobą współgrają. Zazębiają się wręcz, bowiem trudno dziś byłoby wyobrazić sobie przyszłość bez sztucznej inteligencji, która wkrada się w każdy element naszego życia. Choć to w sumie dziś - dziś się wkrada. W przyszłości AI bez zadyszki, bez wysiłku nawet, po prostu będzie towarzyszyło nam na każdym kroku, będzie tak wklejone w naszą codzienność, że informacje o tym, że pomaga w identyfikacji i namierzaniu celów wojskowych, nikogo nie będą dziwić. Dziś mogą one szokować, ale dla tych, którzy siedzą w temacie, to naprawdę nic niesamowitego.

Warto tu również ostudzić emocje, utemperować nastroje i spojrzeć na sprawę trzeźwym a krytycznym okiem. AI analizuje nagrania i fotografie. Analizuje, czyli ocenia i podpowiada, co może być czym. Analizuje, czyli nie wykonuje żadnej czynności operacyjnej, nie ma w sobie ani krztyny sprawczości. Jest jak kalkulator w dłoniach maturzysty, służący do obliczenia 19% z liczby 37. 

Finalnie to człowiek strzela, odpala rakietę, decyduje się zakończyć życie innego człowieka. Finalnie to człowiek wydaje rozkaz do strzału. Finalnie to człowiek przekazuje listę zaakceptowanych celów. Finalnie to człowiek wybiera spośród celów wyselekcjonowanych przez AI te, które faktycznie należy w kategorii celów postrzegać. Innymi słowy, nic nie dzieje się bez udziału człowieka i nic nie dzieje się z pominięciem pewnego chain of command. Spokojnie więc - nie grozi nam bunt maszyn. A przynajmniej nie grozi nam on tak długo, jak długo AI będzie tylko narzędziem analitycznym, czyli czymś więcej niż kalkulator w smartfonie.

AI zawsze jest super!

Wątek na krótko, pod rozkminę, pod refleksję. Nie zastanawia was, że media (a zatem i my, więc pewnie i ja sam) jak już podejmują tematykę AI, to poruszają zagadnienia związane z jej zapierającymi dech sukcesami? No bo po co pisać np. o tym, że firma X chciała opracować sztuczną inteligencję, która podpowie, jak długo można trzymać w lodówce otwarty twaróg półtłusty, ale jej się to nie udało? 

Porażki AI nikogo nie interesują. Sukcesy, nawet te dyskusyjne, papierowe iście, interesują wszystkich. Ekstrapolując ten temat na szerszy, militarny plan. Pentagon w życiu nie pochwaliłby się, że ma jakieś super rozwiązania w temacie sztucznej inteligencji, które będą przełomowe, ale póki co jeszcze nie działają najlepiej. No nie! Chwalimy się tylko tym, co jest spektakularne i tylko tym, co odstraszy od nas naszych wrogów i sprawi, że ich kobiety zapłaczą z przerażenia (wiem, średni wybieg, ale gra mi w uszach teraz musicalowa wersja Conana Barbarzyńcy z YouTube`a). Wniosek? Project Maven musi być super. Wniosek numer dwa? Chiny, Rosja, Japonia, Wielka Brytania, Indie, Korea Południowa, Turcja… Też najpewniej dysponują podobnymi rozwiązaniami

Finalnie to człowiek wybiera spośród celów wyselekcjonowanych przez AI te, które faktycznie należy w kategorii celów postrzegać.

Nie dajmy się zwariować

Zakończę opowieść w zdroworozsądkowy sposób. Po swojemu jednak nie merytorycznie, a refleksyjnie i ironicznie, bo jak człowiek czegoś nie rozumie i czegoś się boi, to ironia staje się jego tarczą. Zakończę apelem o to, by nie dać się zwariować. Kto wie, ten wie, że jestem niebywałym sceptykiem, jeśli chodzi o wpuszczanie sztucznej inteligencji do wszystkich obszarów naszego życia. Powodów do trwania przy stanowisku dającym się streścić hasłowo i skrótowo jako przekonanie, że nie wyniknie z tego nic dobrego, mam wiele i wcale nie są one jakimiś fantazmatami, tworami nieelastycznego umysłu. Ot, fakt, że nie rozumiemy własnego tworu, tego, jak twór ten się uczy i tego, czy realnie jest w stanie w dającej się przewidzieć przyszłości wyrobić w sobie abstrakcyjne, intencjonalne “myślenie” - nie napawa optymizmem. 

Wydaje mi się po prostu, że prędzej czy później staniemy się dla AI absolutnie zbędni. Wydaje mi się też, że nie czeka nas raczej przyszłość z filmów SF. Nie przyjdzie nam żyć w “Matriksie”, nie będziemy toczyli wojny, jak w “Twórcy”, bo po co mielibyśmy wchodzić z AI w jakikolwiek konflikt? Obstawiałbym raczej, że “życie” w maszynowym ujęciu (takie tam subtelne nawiązanie do uczenia maszynowego) będzie finalnie tak dramatycznie różne od naszego, że ani my dla niego, ani ono dla nas nie będzie stanowiło zagrożenia. 

To jednak, że zagrożenia nie będzie, nie oznacza, że go nie wykreujemy. Ludzie, jako gatunek, mają przedziwną zdolność do antagonizowania względem siebie innych ludzi, ale i szerzej rozumianej fauny, więc nawet jeśli przyszła koegzystencja z AI będzie all sunshine and bunnies, to i tak znajdziemy sposób na to, by to wszystko rozpirzyć w diabły i wygenerować sztuczny problem, który szybko urośnie do rangi prawdziwego, palącego problemu. Jesteśmy gatunkiem, który wywoływał wojny dlatego, że ktoś miał inny kolor skóry, modlił się częściej lub nie jadał wieprzowiny, więc umówmy się - nawet jak będzie fajnie, to i tak to sobie skomplikujemy. 

Czy jednak widmo nieuchronnej konfrontacji jest czymś, czym powinniśmy się martwić? Absolutnie nie! Spokojnie możemy podejść do tego problemu z wewnętrznym tumiwisizmem, gdyż i tak nic na to nie poradzimy. Choćbyśmy bardzo chcieli, rozwój AI nie wyhamuje. 

Rozwoju AI nie zatrzymają listy otwarte, odwoływanie się do problematyki wątpliwego etycznie korzystania z AI jako narzędzia, czy wszelkie próby oddolnego sabotowania, niegodzenia się na nieuchronne zmiany. AI generuje pieniądze, więc spokojnie możemy założyć, że jego rozwój nie tylko nie zwolni, ale przyspieszy z taką intensywnością, jaka będzie potrzebna do maksymalizacji zysku. Innymi słowy, póki więcej będzie optymistów lub ignorantów, póty AI będzie rozwijało się na potęgę, więc po co kruszyć kopie?

Poza tym, ciągle, nawet w takich inicjatywach, jak Project Maven, których osiągnięcia są iście fascynujące, to człowiek gra główną rolę. To człowiek decyduje, mówi jak jest. Zatem nie moi drodzy, Dzień Sądu rodem z Terminatora nie jest blisko. Nie mieści się w cezurach czasowych wyobrażalnej przyszłości. Dzień Sądu w takiej formie najpewniej nawet nigdy nie nastąpi, co nie zmienia faktu, że i tak jesteśmy zgubieni, tylko radośnie ten fakt ignorujemy. Dobrze jest być fatalistą. Fatalista każde zaskoczenie bierze za pewnik i koniec końców, zwykle jest tym, który wcale nie jest zaskoczony tym, że sprawy przybrały nieoczekiwany obrót.