Odzieranie się z prywatności na własne życzenie – Jak prywatne urządzenia nas monitorują?

Niedawno natknąłem się na bardzo interesujący i obszerny artykuł, w którym główną rolę grała Roomba J7 i stojąca za nią korporacja iRobot. Jesienią 2020 roku na wenezuelskich forach ukazały się zdjęcia osób i ich mieszkań, które zostały wykonane przez wspomniany odkurzacz automatyczny. Roboty sprzątające rejestrowały wszystko, co pojawiło się w zasięgu ich „wzroku”, w trakcie wykonywania swojej pracy. Na przykładowych zdjęciach poniżej możecie zobaczyć meble, elektronikę, zwierzęta, czy oczywiście ludzi. Ludzi, którzy niekiedy znajdują się w bardzo niekomfortowej dla nich sytuacji – Na przykład podczas korzystania z ubikacji.

Zastanawiacie się zapewne, skąd na zrobionych zdjęciach znajdują się adnotacje dotyczące niektórych obiektów? Otóż firma iRobot przekazuje przechwycone obrazy do firm trzecich, gdzie „specjalni” pracownicy mają za zadanie oznaczyć to, co widzą na tych fotkach. Następnie tak przygotowane materiały mogą zostać przekazane na „pożywkę” algorytmom sztucznej inteligencji, by te mogły „nauczyć się”, czym jest dany obiekt w naszych mieszkaniach. A to wszystko dla „naszej wygody i komfortu” – By kolejne tego typu urządzenia z jeszcze większą dokładnością i precyzją wykonywały powierzone im zadania.

Gdy sprawa wycieku zdjęć wyszła na jaw, to gigant z Bedford natychmiast zaczął wyjaśniać pewne kwestie i podjął niezbędne kroki w celu uniknięcia skandalu. Zacznijmy najpierw od „zasad” gromadzenia tego typu danych. Otóż korporacja iRobot tłumaczy, że ponad 95% zebranych obrazów pochodzi z domów, których mieszkańcami są albo pracownicy firmy, albo wolontariusze rekrutowani przez zewnętrznych dostawców danych. Osoby te, korzystając z tego typu urządzeń wyrażają zgodę na gromadzenie danych przez producenta odkurzaczy, w tym zarejestrowanego materiału wideo, podczas pracy urządzeń. Ww. dane są przekazywane firmie w zamian za „zachęty do uczestnictwa”. Firma nie określiła jednak, jakie to były zachęty. Wspomniane jest jedynie to, że różnią się one „w zależności od długości i złożoności zgromadzonych danych”. Pozostałe 5% nagrań natomiast jest zbierane poprzez dobrowolny udział zwykłych konsumentów. Możliwość wyrażenia zgody na przesyłanie danych treningowych jest możliwa za pośrednictwem aplikacji. Uczestnicy mogą wybrać, jakie obrazy będą przesyłać (głównie chodzi o przeszkody, jakie spotkał robot w mieszkaniu czy domu) bezpośrednio na serwery firmy (w celu ulepszenia algorytmów).

iRobot potwierdził, że opublikowane zdjęcia w sieci faktycznie pochodzą z jego urządzeń (na terenie Stanów Zjednoczonych, Japonii, Francji, Niemiec i Hiszpanii) ale, że 13 z 15 plików pochodzi z „projektu badawczo-rozwojowego, nad którym Scale AI pracowało z iRobotem ponad dwa lata temu”. Niestety firmy odmówiły wyjaśnienia pochodzenia lub podania dodatkowych informacji na temat pozostałych dwóch obrazów.

Jeżeli chodzi natomiast o konsekwencje wycieku, to korporacja oznajmiła, że „iRobot kończy współpracę z usługodawcą, który ujawnił obrazy. [Firma] aktywnie bada sprawę i [podejmie] kroki w celu […] zapobiegania podobnym wyciekom przez dowolnego usługodawcę w przyszłości”. Firma nie odpowiedziała na dodatkowe pytania dotyczące tego, jakie to były środki.

„Twoja twarz brzmi [i wygląda] znajomo!” - polityka iRobot nie uznaje twarzy za wrażliwe dane, nawet w przypadku nieletnich!

I tutaj pojawia się kwestia, która dla wielu z nas może być bardzo interesująca. Otóż urządzenia przedsiębiorstwa z Bedford podczas pracy rejestrują KAŻDY obraz. Więc cokolwiek i z kimkolwiek robisz podczas pracy robota sprzątającego, to zostanie to zarejestrowane. Firma oznajmia:

Kiedy zostanie wykryty obraz, na którym użytkownik znajduje się w kompromitującej pozycji, w tym nagość (pełna lub częściowa) lub interakcja seksualna, jest on usuwany – oprócz WSZYSTKICH innych obrazów z tego dziennika.

Nie wyjaśniono natomiast, czy dzieje się to automatycznie przez algorytm, czy ręcznie przez człowieka. Tak samo firma nie wspomniała czemu w przypadku kobiety w toalecie tak się nie stało. Natomiast przedstawiciel iRobot odpowiedział, z jakiej przyczyny zbierają tak szczegółowe dane (jak pełne sylwetki osób, wraz z ich twarzami):

Aby nauczyć roboty unikania ludzi i wizerunków ludzi… [korporacja] …najpierw musi nauczyć robota, kim jest człowiek. W tym sensie konieczne jest najpierw zebranie danych o ludziach, aby wyszkolić model.

Oznacza to, że (według firmy) twarze muszą być częścią tych danych. Z tym stwierdzeniem kompletnie nie zgadza się chociażby William Beksi – profesor informatyki, który prowadzi Robotic Vision Laboratory na Uniwersytecie Teksańskim w Austin. Tłumaczy on, że obrazy twarzy mogą w rzeczywistości nie być konieczne, aby algorytmy wykrywały ludzi. Modele wykrywające osoby mogą zwracać uwagę „tylko [na] zarys (sylwetka) człowieka”.

„Gdybyś był dużą firmą i martwiłbyś się o prywatność, mógłbyś wstępnie przetworzyć te obrazy” – mówi Beksi. Na przykład „przed przekazaniem ich komuś do opisywania”, możesz automatycznie zamazać ludzkie twarze. Dodaje również, że „Wydaje się to trochę niechlujne […] zwłaszcza, że ​​w filmach są nagrywane osoby nieletnie”.

Obejrzyj w

^{Colin Angle - iRobot CEO - przedstawia nowy model Roomba Combo j7+. Zobaczcie jak pięknie mówi o swoich produktach!}

Zgłębiając całą tę tematykę człowiek może zacząć zadawać sobie pytania – Co jeszcze korporacje wiedzą na mój temat? Które urządzenia mnie "monitorują"? Im głębiej człowiek się nad tym zastanawia, tym bardziej może zacząć popadać w paranoję. A jakie jest Wasze zdanie na ten temat?

Źródło: MIT Technology Review