Narzędzia do generowania obrazów oparte na sztucznej inteligencji (AI) są coraz częściej wykorzystywane w różnych dziedzinach. Pojawiają się jednak obawy dotyczące uprzedzeń kulturowych i stereotypów, jakie mogą one nieświadomie propagować. Przykład? Meta AI.
Chyba nikt nie zaprzeczy, że ChatGPT i inne, podobne narzędzia oparte na sztucznej inteligencji szturmem weszły w nasze życie. W sieci zaroiło się od napisanych przy ich pomocy książek, wygenerowanych przez AI filmów, zdjęć czy grafik. Dziś wystarczy dostęp do Midjourney, Leonardo AI czy Adobe Firefly, żeby móc chwalić się nieprzeciętnej jakości obrazami.
Oczywiście, obawy co do używania tego typu narzędzi wciąż się pojawiają. Całkiem niedawno sam Warren Buffet przestrzegał przed AI porównując nawet tę technologię do broni jądrowej. Teraz zaś do tego doszły jeszcze wątpliwości odnośnie przypadkowego sięgania przez AI do stereotypów, co może prowadzić do dyskryminacji i tworzenia negatywnego przekazu.
Sztuczna inteligencja pełna uprzedzeń?
Jak donosi portal TechCrunch, najnowsze narzędzie Meta AI, wprowadzone przez firmę Meta na światowych rynkach, wykazuje niepokojącą tendencję do nadmiernego dodawania turbanów do wizerunków Hindusów. Dziennikarze tegoż serwisu zbadali narzędzie w kontekście różnych kultur i wynik okazał się dość kontrowersyjny.
W serii testów przeprowadzonych przez nich, Meta AI zadziwiło generując niemal wyłącznie obrazy Hindusów w turbanach, i to nawet w scenariuszach, gdzie takie nakrycie głowy nie jest powszechnie noszone. Przy użyciu różnych promptów, takich jak "Hindus spacerujący po ulicy" czy "Hindus grający w szachy", AI systematycznie oferowało wizualizacje oparte na jednym, wąskim stereotypie.
Fot. TechCrunch
Wykorzystywane narzędzie „rysowało” nie tylko Hindusów w turbanie, ale przedstawiało także nieaktualne i nierzadko klasowe stereotypy w innych kontekstach, na przykład pokazując hinduskich fotografów z przestarzałymi aparatami.
Reakcja firmy i społeczne konsekwencje
W odpowiedzi na zapytania TechCrunch, przedstawiciel Meta stwierdził, że firma pracuje nad doskonaleniem technologii generatywnej AI, choć nie podano szczegółów dotyczących planowanych zmian. I choć narzędzie Meta AI jest bezpłatne i łatwo dostępne w wielu krajach (na razie bez Polski), na wielu platformach takich jak WhatsApp, Instagram, Facebook i Messenger, problemy związane ze stereotypami mogą mieć szersze społeczne implikacje, potwierdzając i pogłębiając istniejące uprzedzenia.
W obliczu globalnej różnorodności kulturowej istnieje zatem pilna potrzeba, aby firmy takie jak Meta wykazywały większą wrażliwość i dokładność w reprezentacji różnych grup społecznych i kulturowych. Skuteczne rozwiązanie problemu uprzedzeń w narzędziach AI będzie wymagało nie tylko zaawansowanej technologii, ale również szerokiej współpracy oraz zaangażowania w etyczne i odpowiedzialne wykorzystanie sztucznej inteligencji.
Źródło: TechCrunch
Komentarze
13Jeśli 80% napadów jest robionych przez murzynów w USA, to 80% generacji "zrób grafikę osoby napadającej na sklep w USA podczas zamieszek" to będzie murzyn...
To żadne AI, a tylko algorytmy przekształcające zapytanie tekstowe (prompt) w grafikę z użyciem miliardów parametrów za plecami, zaś ML przygotowuje owe parametry na podstawie dostarczonych zbiorów obrazów.
Algorytm nie wie, że to co przedstawia jest człowiekiem, nie mówiąc, że jest Hindusem, tylko z parametrów wynika, że najmniejszy błąd będzie gdy z promptu Hindus powstanie obraz o takich, a nie innych atrybutach.
Razem z koja żona Gretą Ziemia-Thunberg i naszym synem Wacławem Ziemia Juniorem walczymy o zielona przyszłość naszej planety.
Musimy się pozbyć paliw kopalnych aby wyeliminować co2 i żeby nasze dzieci oddychały czystym powietrzem, dlatego chcemy aby tylko OZE jak wiatraki i fotowoltaiki wytwarzało prąd a nie elektrownie na węgiel czy atomowe! Robimy tonwszystko dla naszego dobra!!!
Ale słuchajcie zimoalme dalej. Moge walczyć o ekologię bo zarobiłem w tamtym roku trylion$ a wszystko dzięki zielonej aplikacji Crypto Com która nie zostawia śladu węglowego i przyczynia się do ochrony klimata!!!! Ty tez ziomal możesz zarobic take hajsik!!!
Podspdem daje ci linkacza wktorego klikniesz i zarejestrujesz sis w Crypto com zrobisz KYC i podepniesz swoją kartę kredytowa a potem zamówisz czerwona kartę Ruby a otrzymasz az 25$ w zielonej kryptowalucie Cro!
Kupuj, wymieniaj, sprzedawaj kryptowalut lu w aplikacji Crypto Com aby się się multimilionerem jak ja a przynokazjibdbac o środowisko naturalne!!!
Klikaj szypko bo nie ma czasu!!! Bo czas to pieniądz!!! Nie ma czasu bo ziemia płonie i musimy ja ratować!!! Klikaj bądź zielonym ziomalem!!! KLIKAJ TERAZ!!!!!
https://crypto.com/app/jjey2xxs9c