Komputer, który zwariował

DISCERN to sieć neuronowa, którą naukowcom udało się zmusić do zachowania podobnego jak u schizofreników. Sterowany przez nią komputer między innymi twierdził, że odpowiada za atak bombowy.

Proteusz czy Skynet to dobrze znane nam z filmów nazwy niektórych komputerów, które „delikatnie mówiąc” zwariowały i zaczęły działać w nieracjonalny dla człowieka sposób. I choć o naszego laptopa możemy być spokojni, to okazuje się, że istotnie można sterujące komputerami oprogramowanie doprowadzić do stanu podobnego do schizofrenii.

Warto przeczytać:
	Co szkodzi na mózg – komputer czy szkoła?
	Komputer czytający w naszych myślach

Dla przypomnienia, schizofrenia jest to rodzaj choroby naszego umysłu, która wiąże się z problemami w przyswajaniu informacji w prawidłowy sposób. Mózg schizofrenika nie potrafi ich odpowiednio kategoryzować i nadawać im odpowiedniej wagi. W efekcie nieprawidłowe interpretowanie nabytych doświadczeń może wywołać stany depresyjne i lękowe. Mówiąc inaczej, schizofrenik przestaje staje się ofiarą urojeń nie mających nic wspólnego z rzeczywistością.

Eksperyment przeprowadzony przez pracowników Uniwersytetu w Austin w Teksasie oraz uczelni z Yale wykorzystał sieć neuronową DISCERN. W pierwszej fazie eksperymentu uczono ją różnych historii, pozwalając zapamiętywać w sposób przypominający działanie mózgu zdrowego człowieka. DISCERN uczył się znaczenia poszczególnych fragmentów opowiadań i ich związków między sobą.

W.O.P.R. w Grach Wojennych nie był może schizofrenikiem, ale podobnie jak on
miał problem z odróżnieniem rzeczywistości od fantazji.

Następnie „uszkodzono” algorytm odpowiadający za działanie sieci neuronowej, tak by odzwierciedlić działanie mózgu schizofrenika. DISCERN w takim stanie nadal przyswajał wiedzę, ale w przyśpieszonym tempie. Na dodatek utrudniono mu zapominanie informacji, które nie były istotne. W efekcie po pewnym czasie sieć neuronowa zaczęła zachowywać się tak jakby zwariowała.

Odpowiedzi DISCERN były bardzo ciekawe, ale zarazem niepokojące. Sieć twierdziła między innymi, że odpowiada za lotniczy atak bombowy, miała także problem z określeniem swojego ja - mówiła o sobie w trzeciej osobie.

Zbyt szybkie przyswajanie danych czasem może być zgubne

Dzięki opisanym powyżej eksperymentom lekarze będą mogli lepiej zrozumieć mechanizm schizofrenii i podobnych jej schorzeń. Wyniki eksperymentów są także ważne dla inżynierów pracujących nad sztuczną inteligencją, która wykorzystuje podobne jak u człowieka mechanizmy poznawcze.

Jak widać, próby odzwierciedlenia działania ludzkiego mózgu w komputerach prowadzą do przejęcia nie tylko dobrych cech, ale czasem także słabości, które mogą w niesprzyjających warunkach być dla nas niebezpieczne.
 

Źródło: scienceblog

Polecamy artykuły:
Tablet czy netbook - co jest lepsze?	AMD Phenom II X4 980 Black Edition - cztery rdzenie w dobrej cenie	EFI vs BIOS - najważniejsze różnice