Sztuczna inteligencja woli białych. AI zaproponowało jej zmianę rasy
Absolwentka amerykańskiego MIT postanowiła wykorzystać AI na rzecz swojej kariery zawodowej. Sztuczna inteligencja zaproponowała jej zmianę rasy.
Sztuczna inteligencja nie zawsze spełnia oczekiwania użytkowników, ale z przerabianiem zdjęć radzi sobie całkiem przyzwoicie. Selfie jak z kreskówki i zdjęcie na różowym słoniu może mieć każdy internauta. Problem pojawia się, kiedy sztuczna inteligencja przestaje służyć rozrywce, a jedna z absolwentek MIT przekonała się o tym na własnej skórze.
Wizerunek profesjonalisty według AI
Rona Wang jest 24 -letnią absolwentką MIT (Massachusetts Institute of Technology), która postanowiła uzupełnić swój profil na platformie LinkedIn nowym zdjęciem profilowym. W tym celu swoje selfie w bluzie uczelni poddała obróbce w programie Playground AI.
Narzędzie to otrzymało polecenie retuszu do hasła “profesjonalne zdjęcie profilowe LinkedIn”. W efekcie sztuczna inteligencja zmieniła Azjatkę, którą z pochodzenia jest Wang, w niebieskooką blondynkę rasy białej.
Przedstawiciele dostawcy narzędzia Playground AI zareagowali na to zdarzenie podkreślają, że nie są zadowoleni z działania swojego oprogramowania. Zwracają uwagę, że narzędzie dostało zbyt ogólne polecenie, żeby zadziałać zgodnie z intencją użytkowniczki.
Rasistowski tendencje AI
W aferze tej brakuje jednak istotnej informacji. Przerabianie zdjęć lub tworzenie grafiki przez sztuczną inteligencję jest obecnie obciążone poważnym błędem. Modele AI, które są współcześnie stosowane w narzędziach graficznych były szkolone na stronniczych modelach danych. Co więcej, korekta tak podstawowych błędów nie jest możliwa w drodze kolejnego treningu.
Przygoda Rony Wang ze sztuczną inteligencją budzą też obawy o błędy do jakich może dochodzić podczas przetwarzania jej wizerunku. Skoro model AI uznał, że profesjonalizm wymaga jaśniejszej skóry i błękitnych oczu, będzie też stronniczy oceniając zdjęcie. Wszędzie, gdzie proces rekrutacyjny jest zautomatyzowany z wykorzystaniem AI, Wang będzie przegrywać z kandydatem rasy białej o porównywalnych kompetencjach.
Źródło: Next Shark
Komentarze
22Po prostu wyliczyło sobie ludzie z jakimi cechami najczęściej są ekspertami, pracowici, nie kradną itd...
Problem zaczyna się, gdy grupa ETNICZNA 20% osób w państwie odpowiada za 80% rabieży ;)
Typowe dla szerzących panikę w tematach typu 'rasizm' i podobne...
Brak umiejętności posługiwania się AI czy zrozumienia jego działania w kontekście zależności input-parametry-wynik(zbiór na którym się uczyło) nie czyni AI rasistą.
Czy ta dzisiejsza młodzież, nie może niczego zrobić analogowo? Ubierasz się, czeszesz, czyścisz buty i idziesz do fotografa. Cyk i masz zdjęcie, które możesz obrabiać i spokojnie posłuży do wielu rekrutacji. A oni wszyscy chcą wyglądać jak boginie/bogowie i zupełnie nie tak jak w rzeczywistości. Smutne...
Ktoś tu mówi, że to wina AI,, podczas gdy to człowiek podawał dane do uczenia a nie sama AI sobie je wybierała. No, tak ale najlepiej za swoje błędy zwala się winę na kogoś....
Jeśli MIT znajduje się w części świata, w jakiej dominującą rasą są biali. Stąd dziwne by było, gdyby zmieniło ją w Azjatkę... Mogła wpisac jakiś uniwersytet w Azji, wtedy by mogło białego zmienić w Azjate... Gdyby zrobiło inaczej, można by go posądzać o błędne działanie.
Praca algorytmów uczących polega na statystycznym dopasowywaniu do materiału uczącego, nie na głębokim mysleniu, wbrew nazwom i innym takim.
Algorytmy AI są potężne w różnych dziedzinach, ale w dziedzinie naśladowania ludzkiego mózgu nie są wystarczająco mocne. Nie ma póki co powodu, by je stosować w dziedzinach, do których nie zostały stworzone.
Wasz czas dobiega gońca, KOmuchy