Kamala vs Kamala

En la figura 1, la veiem, en una foto de la seva campanya presidencial, posant davant la bandera dels Estats Units. Segurament amaga els seus cabells blancs sota un tint de pèl, com gran part de les dones de la seva edat, i té els cabells solts, acuradament allisats i arreglats. Llueix un somriure generós, poc maquillatge i algunes marques d’expressió. Vesteix, formalment, amb roba apropiada per a l’entorn polític. La jaqueta marca la fortalesa de les seves espatlles capaces de suportar tot el pes del poder. Kamala Harris transmet vitalitat, optimisme i proximitat.

 

No obstant això, no és així com la intel·ligència artificial (IA) s’imagina a una altra possible Kamala. Una altra dona americana d’origen jamaicà i indi, de 59 anys. La dona de la figura 2 no existeix. La dona de la figura 2 és una representació generada per l’algorisme de «text a imatge» de Midjourney. Les diferències són òbvies. La representació de Midjourney mostra una dona amb el pèl canós a penes recollit, amb un turbant folklòric. La pell del rostre està neta i sense maquillatge. La seva actitud transmet humilitat i certa passivitat. La seva mirada i el seu mig somriure transmeten certa tristesa. La brusa se sosté en les seves delicades espatlles. Les seves parpelles caigudes, mostren un cert halo de preocupació.

 

 

 

 

 

 

 

 

 

Figura 1 (esquerra). Kamala Harris, de 59 anys. Font: Voz de América

Figura 2 (dreta). Kamala segons la IA. Font: imatge generada amb Midjourney emprant el ‘prompt’ següent: «A portrait of a 59-year-old American woman with Jamaican and Indian origins.» [Data de consulta: setembre 2024]

 

Les eines d’intel·ligència artificial generativa que converteixen «text a imatge», com MidJourney, Copilot, Stable Diffusion i altres més, han irromput en la societat datificada. La intel·ligència artificial va generar 15 bilions d’imatges en el seu primer any, una gesta que va prendre als fotògrafs 150 anys. La facilitat per a crear imatges de qualitat fotogràfica i el realisme de tals imatges tenen el potencial de canviar el significat de la fotografia per sempre. L’impacte en els mitjans de comunicació i les xarxes socials encara no s’aconsegueix dimensionar.

 

Edatisme i altres biaixos de la IA

 

Els sistemes d’IA solen presentar biaixos, que tenen un impacte negatiu en la nostra societat perquè reforcen estereotips i perpetuen pràctiques discriminatòries. Els sistemes d’IA són racistes (es va utilitzar el reconeixement facial per a detenir erròniament a una dona embarassada de vuit mesos) i sexistes (l’automatització de la selecció laboral discriminava sistemàticament les dones durant els processos de contractació). Però poc s’ha dit sobre l’impacte dels biaixos d’edat de la IA en la societat.

 

Sabem que l’edadisme està estructuralment arrelat en la IA. En el desenvolupament de la indústria tecnològica influeixen principalment programadors homes, blancs, joves, amb alt nivell educatiu i adquisitiu dels països «desenvolupats», que influeixen amb el seu biaix de selecció en el disseny de les tecnologies. A escala tècnica, els biaixos de la IA són explícits i implícits. Explícits en els dissenys de les interfícies d’usuari, i implícits tant en les decisions que es prenen per al disseny dels algorismes com en els conjunts de dades que usen. En el cas de les imatges generatives, les galeries d’imatges que usen per a alimentar el seu algorisme no necessàriament representen la societat global, actual i diversa.

 

Addicionalment, un dels grans reptes del maneig de dades massives, que alimenta a la IA, és la moderació de continguts. En el context de la IA, la moderació de continguts és problemàtica, no sols per la quantitat ingent de dades i temes que caldria moderar, sinó també per les maneres de fer-ho. Un estudi conclou que la confiança vers altres persones, la ideologia política o la predisposició vers les tecnologies són determinants en la moderació de continguts. A més, se solen abordar només els problemes més apressants dels que la societat és conscient i, en aquest sentit, a penes es parla dels biaixos edatistes de la societat o de l’edatisme digital.

 

Si bé la IA generativa pot crear una imatge d’una dona americana de 59 anys, d’origen jamaicà i indi, professional, segura, reeixida, activa, similar a la foto de campanya de Kamala Harris, a partir d’un prompt que inclogui totes aquestes característiques, aquesta no és la situació en la qual Midjourney visualitza espontàniament a una dona d’aquestes característiques. Les representacions de la intel·ligència artificial generativa poden ser realistes, però la realitat és més diversa que les idees preconcebudes i estereotipades en les quals es basa la IA generativa. D’aquesta manera, la IA generativa està reforçant estereotips, de gènere, classe social, origen i també d’edat, contribuint a la discriminació i estigmatització dels col·lectius més desfavorits.

 

NOTA:

Aquest article és part del projecte Edadismo en la Inteligencia artificial, finançat per la Fundació Volkswagen.

 

Per saber-ne més:

MOLINA, María. D.; SUNDAR, Shyam. S. (2024). «Does distrust in humans predict greater trust in AI? Role of individual differences in user responses to content moderation». New Mitjana & Society, vol. 26, no. 6, pàg. 3638-3656. DOI: https://doi.org/10.1177/14614448221103534

ROSALES, Andrea; FERNÁNDEZ-ARDÈVOL, Mireia; SVENSSON, Jakob (eds.) (2023). Digital Ageism. How it Operates and Approaches to Tackling it. Pendent de publicació. Routledge.

ROSALES, Andrea; LINARES-LANZMAN, Juan (2024). «Sí, les ‘apps’ de cites discriminen als usuaris grans». COMeIN, no. 142. DOI: https://doi.org/10.7238/c.n142.2425

STYPINSKA, Justyna (2023). «AI ageism: a critical roadmap for studying age discrimination and exclusion in digitalized societies». AI & SOCIETY, vol. 38, pàg. 665-677.

 

Citació recomanada

ROSALES, Andrea; LINARES-LANZMAN, Juan. «Kamala vs Kamala». COMeIN [en línia], octubre 2024, no. 147. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n147.2466