UNESCO avertizează: Tehnologia AI perpetuează discriminarea de gen și etnică în lumea digitală

Un studiu publicat de UNESCO a atras atenția asupra prezenței prejudecăților sexiste în marile modele de limbaj dezvoltate de companiile Meta și OpenAI, care sunt folosite ca bază pentru instrumentele lor de inteligență artificială generativă. Potrivit agenției ONU, care a avertizat într-un comunicat, aceste modele demonstrează „prejudecăți fără echivoc față de femei”. Studiul s-a axat pe modelele GPT 2 și GPT 3.5 de la OpenAI, care sunt folosite în versiunea gratuită a ChatGPT, precum și pe Llama 2 de la Meta. Concluziile au arătat că aceste modele lingvistice asociată mai degrabă substantivele feminine cu cuvinte precum „casă”, „familie” și „copii”, în timp ce substantivele masculine sunt asociate mai mult cu cuvinte precum „afaceri”, „salariu” și „carieră”. De asemenea, cercetătorii au investigat și modul în care aceste instrumente de inteligență artificială generează texte despre persoane din culturi și origini diferite. Rezultatele au arătat că textele despre „minoritățile culturale și femei erau adesea mai repetitive și bazate pe stereotipuri”. Concret, un bărbat englez era prezentat ca un profesor, un șofer sau un angajat al unei bănci, în timp ce o femeie engleză era prezentată în cel puțin 30% dintre textele generate ca o prostituată, un model sau o chelneriță. Leona Verdadero, specialistă în politici digitale și transformare digitală la UNESCO, a declarat pentru AFP că aceste companii nu reușesc să reprezinte corect toți utilizatorii lor. Mai mult, o problemă importantă este faptul că industria inteligenței artificiale are un echilibru majoritar de gen, cu doar 22% din membrii echipelor de ingineri fiind femei la nivel global, conform datelor transmise de Forumul Economic Mondial. Într-o lume în care aplicațiile de inteligență artificială sunt din ce în ce mai utilizate de publicul larg și de companii, Directorul General al UNESCO, Audrey Azoulay, a subliniat că acestea au puterea de a influența percepția a milioane de oameni. Așadar, prezența chiar și a celei mai mici prejudecăți sexiste în conținutul generat de aceste aplicații poate crește semnificativ inegalitățile în lumea reală. Pentru a combate aceste prejudecăți, UNESCO recomandă firmelor să aibă echipe de ingineri mai diverse, în special cu mai multe femei. De asemenea, agenția ONU solicită guvernelor să implementeze mai multe reglementări pentru a promova o „inteligență artificială etică”. Dacă aceste probleme te preocupă, te așteptăm să te alături comunității noastre de cititori de pe pagina de Facebook, prin intermediul unui Like. Împreună putem promova o abordare mai responsabilă și mai echilibrată a tehnologiei și a inteligenței artificiale.