Google își va adapta motorul de căutare la culoarea pielii utilizatorilor de internet


Compania a prezentat o paletă de zece tonuri de piele care va permite o mai bună reprezentare a rezultatelor căutării, în special pe Google Images. Astăzi am lansat scala Monk Skin Tone (MST) în parteneriat cu profesorul și sociologul de la Harvard, Dr. Ellis Monk. Scara MST, dezvoltată de Dr. Monk, este o scară de 10 nuanțe concepută pentru a ține mai bine cont de gama de culori ale pielii din societatea noastră. „Vom integra scala MST în diverse produse Google în următoarele câteva luni și o vom face publică, astfel încât toată lumea să o poată folosi pentru cercetare și dezvoltare de produse”, a declarat Molly McHugh-Johnson, scriitoare la Google.

Scara MST este un pas important în efortul colectiv de îmbunătățire a integrării culorii pielii în tehnologie. Pentru Google, va contribui la promovarea angajamentului față de corectitudinea imaginii și de reprezentare îmbunătățită în produsele Google. Făcând scalarea MST disponibilă tuturor, Google speră că și alții pot face același lucru.

Luarea în considerare a echității culorii pielii în tehnologie este o provocare interesantă pentru cercetare, deoarece nu este doar o problemă tehnică, ci și una socială.

Progresul necesită expertiza combinată a unei game largi de oameni: de la cercetători în științe sociale care au petrecut ani de zile studiind inegalitatea socială și stratificarea culorii pielii ca parte a cercetării lor, până la utilizatorii de produse și tehnologii, care oferă nuanțele și perspectivele necesare din viața lor. experiențe, teiciștilor și activiștilor pentru drepturile civile, care ghidează cadrele de aplicare pentru a ne asigura că păstrăm și onorăm nuanțele sociale.

Echipele Google contribuie la acest corp de lucru de ani de zile. Iată o privire mai aprofundată asupra modului în care echipele Google s-au gândit și au lucrat la eforturile de reprezentare a culorii pielii, în special în ceea ce privește scala MST și ce ar putea urma.

Inegalitățile persistente există la nivel global din cauza prejudecăților sau discriminării împotriva persoanelor cu culoarea pielii mai închisă, cunoscută și sub denumirea de colorism, spune psihologul social și cercetătorul în experiența utilizatorului, dr. Courtney Heldreth. (UX) în cadrul departamentului Google Responsible AI Human-Centered Technology UX (RAI-HCT UX), care face parte din Google Research. Literatura academică demonstrează că culoarea pielii joacă un rol important în modul în care oamenii sunt tratați într-o mare varietate de rezultate, inclusiv sănătate, bogăție, bunăstare și multe altele.

Învățarea automată, un tip de IA, stă la baza multor produse pe care le folosim în fiecare zi. Camerele utilizează învățarea automată din motive de securitate, pentru a debloca un telefon sau pentru a înregistra pe cineva la ușă. Învățarea automată poate clasifica fotografiile pe baza unor fețe similare sau poate regla luminozitatea unei imagini.

Pentru a face bine, inginerii și cercetătorii au nevoie de seturi diverse de date de antrenament pentru a antrena modele și pentru a testa temeinic modelele rezultate pe o gamă largă de imagini. Important este că, pentru ca seturile de date utilizate pentru dezvoltarea tehnologiilor legate de înțelegerea oamenilor să fie mai incluzive, Google are nevoie de o scară care să reprezinte o gamă largă de tonuri de piele.

Dacă spui: mi-am testat modelul de corectitudine pentru a mă asigura că funcționează bine pentru tonurile închise ale pielii, dar folosești o scară care nu reprezintă majoritatea oamenilor cu acele tonuri de piele, nu știi cât de bine funcționează de fapt, ” spune Xango Eye, un manager de produs care lucrează la Responsible AI.

Dacă nu este dezvoltată cu intenție, măsurarea nuanței pielii pe care o folosim pentru a înțelege dacă modelele noastre sunt exacte și reprezentative poate afecta modul în care produsele sunt experimentate de către utilizatori. În aval, aceste decizii pot avea cel mai mare impact asupra celor mai vulnerabili la un tratament nedrept, persoanele cu pielea mai închisă la culoare”, spune Dr Heldreth.

Eye și Dr. Heldreth sunt ambii membri de bază ai eforturilor de cercetare ale Google de a încorpora o mai mare corectitudine a culorii pielii în dezvoltarea AI, un grup care include un amestec interdisciplinar de manageri de produs, cercetători și ingineri specializați în viziunea computerizată și psihologia socială. Echipa lucrează, de asemenea, cu echipele Google Image Fairness pentru a construi o reprezentare în produse precum camere foto, fotografii și emoji.

Adoptăm o abordare centrată pe om pentru a înțelege modul în care AI poate influența și ajuta oamenii din întreaga lume, spune dr. Heldreth, concentrându-se pe îmbunătățirea incluziunii în AI, pentru a face ca tehnologia să reflecte și să împuternicească comunitățile diverse la nivel global și cultural, în special pe cele care sunt istoric. marginalizați și deserviți. O scară mai incluzivă a tonului pielii este o parte centrală a acestui efort.

Echipa funcționează cu un singur obiectiv general: să continue îmbunătățirea tehnologiei, astfel încât să funcționeze bine pentru mai mulți oameni. Pentru a face acest lucru, au fost îndeplinite două sarcini majore: Prima a fost să se determine ce era deja construit și de ce nu funcționa, explică Eye. Iar al doilea era să ne dăm seama ce ar trebui să construim în schimb.

O abordare socio-tehnică

Tonul pielii este un lucru care schimbă proprietățile fizice ale imaginilor și afectează experiențele oamenilor, iar ambele lucruri pot afecta performanța unei piese de tehnologie, spune dr. Susanna Ricco. Dr. Ricco, inginer software cu echipa de percepție a Google Research, conduce un grup care cercetează noi modalități de a se asigura că sistemele de viziune computerizate de la Google funcționează bine pentru mai mulți utilizatori. , indiferent de fundalul sau aspectul lor.

Pentru a ne asigura că această tehnologie funcționează pentru toate tonurile de piele, trebuie să o testăm și să o îmbunătățim în mod intenționat într-o gamă variată. Pentru a face acest lucru, avem nevoie de o scară care să nu ignore culoarea pielii și să nu fie prea generală”, explică ea.

Există latura fizică a lucrurilor, și anume modul în care un senzor reacționează la culoarea pielii unei persoane, spune dr. Ricco. Apoi mai este partea socială a lucrurilor: știm că există o corelație între culoarea pielii și experiențele de viață, așa că vrem să ne asigurăm că privim echitatea și din această perspectivă. . În cele din urmă, ceea ce contează este dacă funcționează pentru mine? – și nu doar eu, persoana care creează această tehnologie, ci și eu, adică oricine se confruntă cu ea.

Dezvoltarea unei scale pentru aceasta nu este doar o problemă de IA sau tehnologie, ci o problemă socio-tehnică, adaugă Dr Heldreth. Este important să înțelegem cum se poate manifesta neuniformitatea în culoarea pielii în tehnologia pe care o folosim și, important, să facem tot posibilul pentru a evita dublarea colorismului existent. Echitatea este contextuală și experimentată în mod unic de fiecare individ, așa că este important să ne concentrăm această problemă asupra oamenilor care vor fi în cele din urmă afectați de alegerile pe care le facem. Prin urmare, pentru a o face corect, trebuie să adoptăm o abordare centrată pe om, deoarece aceasta este o problemă umană.

Scala tonului pielii

Dr. Monk a întreprins această cercetare parțial pentru a se baza pe cea mai utilizată scară de ton a pielii, scala Fitzpatrick. Creat în 1975 și compus din șase nuanțe majore, urma să servească drept punct de plecare pentru o clasificare medicală a tipului de piele. Industria tehnologică a adoptat-o ​​pe scară largă și a aplicat-o pe tonurile pielii și a devenit norma. Acesta este ceea ce folosesc majoritatea sistemelor de inteligență artificială pentru a măsura nuanța pielii. Prin comparație, scara MST este formată din 10 nuanțe, un număr ales să nu fie prea limitativ, dar nici prea complex. Nu este vorba doar despre acea valoare numerică precisă a nuanței pielii. Este vorba despre a oferi oamenilor ceva cu care se pot identifica.

Împreună, echipa și Dr. Monk au chestionat mii de adulți din Statele Unite pentru a afla dacă oamenii s-au simțit mai bine reprezentați de scala MST în comparație cu alte scale care au fost utilizate în sectoarele sănătății. învățare automată și frumusețe. În general, oamenii au simțit că sunt mai bine reprezentați de scala MST decât de scala Fitzpatrick, spune Eye, și acest lucru a fost valabil mai ales pentru grupurile demografice mai puțin reprezentate.

Ceea ce cauți este acel moment subiectiv în care oamenii își pot vedea culoarea pielii pe scară, spune Dr Heldreth. Văzând rezultatele cercetării noastre care demonstrează că există și alte măsuri de nuanță a pielii în care mai mulți oameni se văd mai bine reprezentați ne-a făcut să simțim că făceam pași în direcția corectă, că într-adevăr am putea face diferența. .

Desigur, 10 puncte nu sunt la fel de complete ca scalele care au 16, 40 sau 110 nuanțe. Și pentru multe cazuri de utilizare, cum ar fi machiajul, mai mult este mai bine. Ceea ce a fost interesant în ceea ce privește rezultatele sondajului la scară MST a fost că echipa a descoperit că, chiar și cu 10 nuanțe, participanții au simțit că scara este la fel de reprezentativă ca și scara industriei frumuseții, cu o varietate mai mare.

Ei au simțit că scala MST a fost la fel de incluzivă, chiar dacă avea doar 10 puncte”, spune Eye. O scară de 10 puncte poate fi, de asemenea, utilizată la adnotarea datelor, în timp ce evaluarea imaginilor de nuanță a pielii folosind o scară de 40 de puncte ar fi o sarcină aproape imposibilă de realizat pentru evaluatori. .

Ceea ce este deosebit de interesant la această lucrare este că continuă să sublinieze importanța unei abordări socio-tehnice pentru crearea de instrumente și produse mai echitabile. Tonurile pielii sunt continue și pot fi definite și clasificate în multe moduri diferite, cel mai simplu fiind să alegeți valori RGB echidistante pe o scară de la maro deschis la maro închis.

Dar o astfel de abordare tehnică ignoră nuanțarea modului în care diferitele comunități au fost afectate istoric de colorism. O scară eficientă pentru măsurarea și reducerea experiențelor inconsecvente pentru un număr mai mare de oameni trebuie să reflecte în mod adecvat o gamă largă de tonuri de piele care reprezintă o diversitate de comunități. Aici expertiza și cercetarea Dr. Monk se dovedesc deosebit de valoroase.

Unul dintre primele domenii în care această tehnologie va fi utilizată este în produsele Google bazate pe imagini. Până acum, Google s-a bazat foarte mult pe Scala Fitzpatrick pentru AI foto. Scara MST este acum integrată în produse precum Google Foto și Căutare de imagini și va fi extinsă și mai mult în lunile următoare.

Sursa: Google

Si tu?

Ce parere aveti despre subiect?

Vezi si:

Google mi-a închis contul pentru partajarea înregistrărilor istorice pe care le-au numit „activitate teroristă”, editorul spune că riscă să piardă ani de cercetare

Google vrea să lucreze din nou cu Pentagonul, în ciuda preocupărilor angajaților. Compania s-a oferit să fie un furnizor de cloud militar

Google dezvăluie Logica, un nou limbaj de programare logic cu sursă deschisă care compilează SQL și poate rula pe Google BigQuery

Google este dat în judecată pentru că a colectat în secret date de la utilizatorii Android prin transmisii ascunse și neaprobate către serverele sale

Add Comment