Sursă: Mediafax.ro
O echipă de cercetători a analizat dacă răspunsurile generate de sistemele de inteligență artificială, precum ChatGPT, reflectă prejudecăți sociale legate de vârstă. Studiul a identificat stereotipuri și percepții negative asupra anumitor grupuri de vârstă în răspunsurile AI, evidențiind o problemă importantă în utilizarea acestor tehnologii.
Citește și: JetZero va efectua primul zbor al avionului Z4 în 2027
Analiza s-a concentrat pe 900 de eșantioane de text generate de GPT-4, solicitând modelului să descrie caracteristicile grupurilor de vârstă de la 10 la 90 de ani, în intervale de 10 ani. Răspunsurile au fost apoi evaluate folosind modelul conținutului stereotipic, o teorie din psihologia socială care analizează percepțiile asupra persoanelor în funcție de două dimensiuni: căldură și competență.
Ce prejudecăți sociale ascunde inteligența artificială?
Rezultatele studiului au arătat că adulții de peste 60 de ani sunt percepuți ca fiind mai calzi, dar cu scoruri mai scăzute la competență. Aceasta indică o percepție de bunătate și încredere, dar și de lipsă de abilitate și eficiență, conform răspunsurilor generate de AI.
- Analiza a inclus 900 de eșantioane de text generate de GPT-4
- Persoanele peste 60 de ani au obținut scoruri ridicate la „căldură”
- La dimensiunea „competență”, scorurile au fost relativ mai scăzute pentru acești adulți
- Studiul a evidențiat percepții negative asupra vârstei înaintate
- Percepțiile asupra vieții au fost împărțite în trei categorii: tinerețea, vârsta de mijloc și vârsta înaintată
Impactul prejudecăților în sistemele AI și societate
Studiul relevă că prejudecățile sociale pot fi încorporate în răspunsurile AI, ceea ce poate influența percepțiile utilizatorilor și deciziile automate. În contextul îmbătrânirii populației globale, această problemă devine tot mai relevantă, fiind nevoie de ajustări și de conștientizare în dezvoltarea sistemelor AI.
Specialiștii atrag atenția asupra necesității de a ajusta datele de antrenament și algoritmii pentru a reduce prejudecățile, asigurând o reprezentare echitabilă a tuturor grupurilor sociale. În plus, utilizatorii trebuie informați despre potențialele biasuri pentru a evita interpretări eronate sau discriminare digitală.
Discriminarea pe criteriul vârstei, dacă nu este gestionată corespunzător, poate avea consecințe negative asupra societății și asupra modului în care tehnologia este percepută și utilizată. În concluzie, transparența și responsabilitatea în dezvoltarea AI sunt esențiale pentru a combate prejudecățile ascunse în răspunsurile automate.