Czy metaverse może wzmocnić nękanie w Internecie?

Oto jak sprawić, by kolejna iteracja Internetu była bardziej inkluzywna.

Ludzie zmarginalizowani często najbardziej cierpią z powodu niezamierzonych konsekwencji nowych technologii. Na przykład algorytmy, które automatycznie podejmują decyzje o tym, kto może zobaczyć jakie treści lub jak interpretowane są obrazy, cierpią na uprzedzenia rasowe i płciowe . Osoby o wielu zmarginalizowanych tożsamościach, takie jak osoby czarnoskóre i niepełnosprawne, są jeszcze bardziej zagrożone niż osoby z jedną zmarginalizowaną tożsamością.

Właśnie dlatego, kiedy Mark Zuckerberg przedstawił swoją wizję metaverse — sieci środowisk wirtualnych, w których wiele osób może wchodzić w interakcje ze sobą i z obiektami cyfrowymi — i powiedział, że będzie to dotyczyć każdego produktu , który zbuduje firma, przestraszyłem się. Jako naukowiec, który bada skrzyżowania rasy, technologii i demokracji – oraz jako czarna kobieta – uważam, że ważne jest, aby dokładnie rozważyć wartości, które są zakodowane w tym Internecie nowej generacji.

Problemy już się pojawiają. Awatary, postacie graficzne, które ludzie mogą tworzyć lub kupować, aby reprezentować siebie w środowiskach wirtualnych, są wyceniane inaczej w zależności od postrzeganej rasy awatara, a nękanie rasistowskie i seksistowskie pojawia się w dzisiejszych immersyjnych środowiskach sprzed metawersu.

Zagwarantowanie, że ta kolejna iteracja Internetu będzie integracyjna i działa dla wszystkich, będzie wymagać, aby ludzie z marginalizowanych społeczności przejęli inicjatywę w jego kształtowaniu. Będzie to również wymagało regulacji z zębami, aby Big Tech odpowiadał za interes publiczny. Bez nich metaverse ryzykuje odziedziczeniem problemów dzisiejszych mediów społecznościowych, jeśli nie stanie się czymś gorszym.

Wizje utopijne kontra twarda rzeczywistość

W utopijnych wizjach z początków Internetu zwykle utrzymywały się, że życie online będzie radykalnie różne od życia w świecie fizycznym. Na przykład ludzie wyobrażali sobie internet jako sposób na ucieczkę od części swojej tożsamości, takich jak różnice rasowe, płciowe i klasowe. W rzeczywistości internet nie jest pozbawiony ras .

Podczas gdy technoutopie komunikują pożądane wizje przyszłości, rzeczywistość nowych technologii często nie spełnia tych wizji. W rzeczywistości Internet przyniósł społeczeństwu nowe formy szkód, takie jak automatyczne rozpowszechnianie propagandy w mediach społecznościowych i stronniczość algorytmów kształtujących Twoje doświadczenia online .

Zuckerberg opisał metaverse jako bardziej wciągający, ucieleśniony internet , który „ odblokuje wiele niesamowitych nowych doświadczeń ”. To wizja nie tylko przyszłego Internetu, ale także przyszłego sposobu życia. Bez względu na to, jak ta wizja może być niecelowa, metawersum prawdopodobnie – podobnie jak wcześniejsze wersje Internetu i mediów społecznościowych – będzie miało szerokie konsekwencje , które zmienią sposób, w jaki ludzie nawiązują kontakty towarzyskie, podróżują, uczą się, pracują i bawią.

Pytanie brzmi, czy te konsekwencje będą takie same dla wszystkich? Historia sugeruje, że odpowiedź brzmi nie.

Technologia nigdy nie jest neutralna

Powszechnie stosowane technologie często zakładają domyślne tożsamości i ciała białych mężczyzn. Joy Buolomwini , informatyk z MIT , wykazała, że ​​oprogramowanie do rozpoznawania twarzy działa gorzej na kobietach, a jeszcze bardziej na kobietach o ciemniejszych twarzach. Potwierdziły to inne badania .

Biel jest domyślnie osadzona w tych technologiach , nawet przy braku wyścigu jako kategorii algorytmów uczenia maszynowego. Niestety rasizm i technologia często idą w parze. Czarnoskóre polityczki i dziennikarki były nieproporcjonalnie celem obraźliwych lub problematycznych tweetów, a czarnoskórzy i latynoscy wyborcy byli celem kampanii dezinformacyjnych w Internecie podczas cyklu wyborczego w 2020 roku.

Ten historyczny związek między rasą a technologią martwi mnie metawersem. Jeśli metaverse ma być ucieleśnioną wersją internetu, jak to opisał Zuckerberg, to czy oznacza to, że ludzie już zmarginalizowani doświadczą nowych form krzywdy?

Facebook i jego relacje z czarnymi ludźmi

Ogólny związek między technologią a rasizmem to tylko część historii. Meta ma słabe relacje z czarnymi użytkownikami na swojej platformie na Facebooku, a zwłaszcza z czarnymi kobietami.

W 2016 r. reporterzy ProPublica odkryli, że reklamodawcy na portalu reklamowym Facebooka mogą wykluczać grupy osób, które widzą ich reklamy na podstawie rasy użytkowników lub tego, co Facebook nazywa „powinowactwem etnicznym”. Ta opcja spotkała się z dużym odzewem, ponieważ Facebook nie pyta swoich użytkowników o rasę, co oznaczało, że użytkownikom przypisywano „przynależność etniczną” w oparciu o ich zaangażowanie na platformie, takie jak ulubione strony i posty.

Innymi słowy, Facebook zasadniczo profilował rasowo swoich użytkowników na podstawie tego, co robią i lubią na swojej platformie, dając reklamodawcom możliwość dyskryminowania ludzi ze względu na ich rasę. Facebook od tego czasu zaktualizował swoje kategorie kierowania reklam, aby nie uwzględniały już „pokrewieństwa etnicznego”.

Jednak reklamodawcy nadal mogą kierować reklamy do ludzi na podstawie ich przypuszczalnej rasy za pomocą proxy ras , które wykorzystują kombinacje zainteresowań użytkowników w celu ustalenia rasy . Na przykład, jeśli reklamodawca zobaczy na podstawie danych z Facebooka, że ​​wyraziłeś zainteresowanie kulturą Afroamerykanów i BET Awards, może wywnioskować, że jesteś osobą czarnoskórą i kierować do Ciebie reklamy produktów, które chce sprzedawać osobom czarnoskórym.

Co gorsza, Facebook często usuwał komentarze czarnych kobiet, które wypowiadają się przeciwko rasizmowi i seksizmowi. Jak na ironię, komentarze czarnych kobiet o rasizmie i seksizmie są cenzurowane – potocznie znane jako szorowanie – za rzekome naruszanie polityki Facebooka przeciwko mowie nienawiści. Jest to część większego trendu na platformach internetowych, na którym czarnoskóre kobiety są karane za wyrażanie swoich obaw i domaganie się sprawiedliwości w przestrzeni cyfrowej.

Według niedawnego raportu Washington Post , Facebook wiedział, że jego algorytm nieproporcjonalnie szkodzi czarnoskórym użytkownikom, ale nie zdecydował się na nic.

Demokratycznie odpowiedzialny metawers

W wywiadzie z Vishalem Shahem, wiceprezesem Metaverse Metaverse, Audie Cornish, gospodarz National Public Radio, zapytał : „Jeśli nie radzisz sobie z komentarzami na Instagramie, jak możesz poradzić sobie z koszulką, na której w metawersie znajduje się mowa nienawiści ? Jak poradzisz sobie z wiecem nienawiści, który może mieć miejsce w metawersie? Podobnie, jeśli Czarni są karani za wypowiadanie się w Internecie przeciwko rasizmowi i seksizmowi, to jak mogą to zrobić w metawersie?

Zapewnienie, że metaverse jest inkluzywny i promuje wartości demokratyczne, a nie zagraża demokracji , wymaga sprawiedliwości projektowania i regulacji mediów społecznościowych.

Sprawiedliwość projektowania stawia ludzi, którzy nie sprawują władzy w społeczeństwie, w centrum procesu projektowania, aby uniknąć utrwalania istniejących nierówności. Oznacza to również rozpoczęcie od rozważenia wartości i zasad kierujących projektowaniem .

Prawo federalne chroni firmy zajmujące się mediami społecznościowymi przed odpowiedzialnością za posty i działania użytkowników na ich platformach. Oznacza to, że mają prawo, ale nie obowiązek, nadzorować swoich witryn . Regulowanie Big Tech ma kluczowe znaczenie dla konfrontacji z problemami mediów społecznościowych w dzisiejszych czasach, a co najmniej równie ważne, zanim zbudują i kontrolują następną generację internetu .

Metawers i ja

Nie jestem przeciwny metawersowi. Jestem za demokratycznie odpowiedzialnym metawersem. Aby tak się stało, twierdzę jednak, że muszą istnieć lepsze ramy regulacyjne dla firm internetowych i bardziej sprawiedliwe procesy projektowania, aby technologia nie korelowała z rasizmem.

W obecnej postaci korzyści z metaverse nie przewyższają dla mnie jego kosztów. Ale nie musi tak pozostać.