'Faces of ImageNet'

Faces ON. Els passats dies 4, 5 i 6 de febrer, va tenir lloc el Llum BCN, el festival d’arts lumíniques que se celebra a Barcelona des del 2012. L’esdeveniment aprofita la complicitat de les nits d’hivern per presentar diferents instal·lacions artístiques basades en l’ús de la llum i les tecnologies digitals. Una exposició d’art modern que reuneix cada any milers de persones, incloent-hi públic familiar, juvenil i adult.

En aquesta ocasió, una de les principals atraccions ha estat Faces of ImageNet, de l’artista nord-americà Trevor Paglen. Faces of ImageNet es va projectar sobre la immensa façana lateral del Design Hub, davant de la plaça de Josep Antoni Coderch.

Segons els organitzadors, Faces of ImageNet cercava fer un «toc d’atenció sobre els perills de la intel·ligència artificial. La instal·lació interactiva captura la cara dels participants situats davant d’una càmera i projecta sobre la façana les etiquetes amb les quals els algorismes d’aprenentatge d’ImageNet les classifiquen. Els resultats no sempre són afalagadors i poden revelar biaixos profunds, prejudicis, racisme i premisses pseudocientífiques que impregnen molts sistemes d’intel·ligència artificial» (Llum BCN – Festival d’Arts Lumíniques, 2022). La instal·lació es basa en l’algorisme d’ImageNet, que ja ha estat àmpliament provat en xarxes socials (Metz, 2019) i que va despertar tot tipus de comentaris a internet, cosa que va generar, efectivament, un veritable toc d’atenció. Ja se sap que els comentaris de qualsevol publicació d’internet són bastant propicis a la crítica voraç.

L’impuls d’investigadora em demanava que preguntés a les persones sobre les etiquetes que els havia posat a la gran façana del Design Hub, o sobre les etiquetes que havia posat als seus amics. Però, vaig recordar que, per recollir informació amb finalitat investigadora, hauria de fer una sol·licitud al comitè d’ètica de la meva universitat, que era divendres, que el festival només durava tres dies i que el comitè d’ètica no s’havia de reunir fins al mes següent. Així que vaig desistir de preguntar.

Reflexions sobre els perills de la intel·ligència artificial

El que no vaig poder evitar va ser sentir allò que la gent deia al meu voltant i tractar d’entendre què passava. Em vaig esforçar per agusar l’oïda. L’amiga que m’acompanyava va sortir etiquetada com a «Centenarian»; va riure una mica. Sí que es van sentir moltes rialles al voltant i a tota la plaça. També hi va haver grans riallades quan s’etiquetava altres persones. Unes quantes instal·lacions més endavant, ens vam trobar algú que va saludar la meva amiga, amb un rialler «Hola, centenària!». El meu fill de 8 anys va ser etiquetat com a «lumper». Em va preguntar què significava. Molt sovint, sortia l’etiqueta «white» i, de vegades, se sentia un murmuri de protestes. Pel que sembla, la persona etiquetada no semblava prou «white».

En aquell moment, com a investigadora, ja havia decidit que no posaria per a la càmera, que no m’esforçaria per mostrar-li el meu costat més amable, per intentar que em digués alguna cosa simpàtica. Però, em vaig quedar més temps veient les reaccions de la gent, que havia fet fins a 30 minuts de cua per veure què li deia la pantalla. Alguns se sorprenien davant tants adjectius llunyans o desconeguts. El sistema només responia en anglès. Les etiquetes anaven canviant en la mesura que canviaves de posa, i la gent intentava quedar bé a la foto i a l’etiqueta. No era fàcil, la càmera disparava en el moment menys pensat.

Entre tantes rialles, moltes burles (el sistema disposa d’un gran nombre d’etiquetes deliberadament negatives (Crawford; Paglen, 2019), o alguns pocs afalacs, no vaig sentir ningú que reflexionés sobre els perills de la intel·ligència artificial, sobre els biaixos dels sistemes que etiqueten els individus sobre la base d’una informació prèvia, o sobre l’obsessió dels sistemes intel·ligents per etiquetar les persones. Em preguntava en quin moment es produiria el toc d’atenció, o si la cosa es quedava en un joc de riure fàcil. O si el fet de mudar el debat del fòrum anònim d’internet al programa de cap de setmana amb amics havia canviat el to de la discussió. Faces… OFF?

Per saber-ne més:

CRAWFORD, Kate; PAGLEN, Trevor (2019, setembre). «Excavating AI: The Politics of Training Sets for Machine Learning» [en línia]. Disponible a: https://excavating.ai

Llum BCN - Festival de les Artes Lumíniques [en línia]. Disponible a: https://www.barcelona.cat/llumbcn/ca/installacions.php?id=1. [Data de consulta: 11 de febrer de 2022]

METZ, Cade (2019, septiembre). «‘Nerd,’ ‘Nonsmoker,’ ‘Wrongdoer’: How Might A.I. Label You?». A: The New York Times [en línia]. Disponible a: https://www.nytimes.com/2019/09/20/arts/design/imagenet-trevor-paglen-ai-facial-recognition.html