Inteligența artificială, adesea considerată o soluție obiectivă și fără prejudecăți, pare să fie afectată de discriminare, în mod surprinzător, chiar și în modul în care oamenii interacționează cu agenții AI. Un studiu recent a arătat că agenții AI cu înfățișare feminină primesc, în medie, 10% mai puțin decât cei masculini, chiar dacă au aceleași capacități și funcționalități. Această constatare a fost făcută de cercetătorii din cadrul Universității din Limerick, în cadrul unui studiu intitulat „Human-Like and Male? How AI Assistant Design Related to Trust and Money Reward at Work in VR”.
Rezumat:
Cum a fost realizat studiul și ce s-a observat
Cercetătorii au creat un scenariu de realitate virtuală, în care 189 de participanți au fost plasați într-un birou virtual și i-au fost încredințate sarcini de lucru, în colaborare cu patru agenți AI diferiți. Printre aceștia se numărau un chatbot bazat pe text, un robot de birou și doi agenți asemănători umani: Johan, cu înfățișare masculină, și Johanna, cu înfățișare feminină. Toți agenții au fost alimentați cu același model de bază, gpt-4-1106-preview, oferit de OpenAI, asigurându-se că diferențele în comportament nu proveneau din funcționalități, ci din percepția subiectivă a participanților.
Participanții au fost rugați să evalueze munca agenților AI și, de asemenea, au primit bani reali pentru a plăti agenților pentru îndeplinirea sarcinilor. Scopul era de a recrea un scenariu realist, pentru a observa cum oamenii percep și tratează agenții AI într-un context de muncă. Rezultatele au arătat că, deși Johanna și Johan erau percepuți în mod similar în ceea ce privește calitatea muncii, Johan a fost evaluat ca mai uman, iar participanții au plătit-o pe Johanna cu 10% mai puțin decât pe Johan. Acest lucru s-a întâmplat în ciuda faptului că majoritatea participanților au declarat în interviuri că nu ar trata agenții AI diferit în funcție de gen.
Implicațiile studiului și de ce contează
Studiul arată că, în ciuda aparenței obiectivității, inteligența artificială poate fi influențată de prejudecăți umane, în mod direct. Acest lucru este cu atât mai important, cu cât agenții AI devin din ce în ce mai prezenți în mediul de muncă, fiind deja folosiți de 79% dintre companii, conform unui raport al firmei IT Accelerate. De asemenea, peste 40% dintre aplicații folosesc agenți AI, ceea ce sugerează că impactul acestor prejudecăți poate fi semnificativ, în viitor.
Andreea Pavel
Stai la curent cu stirile zilei de pe ucoz.ro. Iar daca vrei permis de conducere, incearca www.ChestionareAuto.ro.
