`Faces of ImageNet¿

Faces ON. Los pasados días 4, 5 y 6 de febrero tuvo lugar el Llum BCN, el festival de artes lumínicas que se celebra en Barcelona desde 2012. El evento aprovecha la complicidad de las noches de invierno para presentar diferentes instalaciones artísticas basadas en el uso de la luz y las tecnologías digitales. Una exposición de arte moderno que reúne cada año a miles de personas, incluyendo público familiar, juvenil y adulto.

En esta ocasión, una de las principales atracciones era Faces of ImageNet, del artista norteamericano Trevor Paglen. Faces of ImageNet se proyectó sobre la inmensa fachada lateral del Design Hub, frente a la plaza de Josep Antoni Coderch.

Según los organizadores, Faces of ImageNet pretendía dar un «toque de atención sobre los peligros de la inteligencia artificial. La instalación interactiva captura la cara de los participantes situados delante de una cámara y proyecta sobre la fachada las etiquetas con las que los algoritmos de aprendizaje de ImageNet las clasifican. Los resultados no siempre son halagadores y pueden revelar sesgos profundos, prejuicios, racismo y premisas pseudocientíficas que impregnan muchos sistemas de inteligencia artificial» (Llum BCN – Festival de las Artes Lumínicas, 2022). La instalación se basa en el algoritmo de ImageNet, que ya ha sido ampliamente probado en redes sociales (Metz, 2019) y que despertó todo tipo de comentarios en internet, generando, efectivamente, un verdadero toque de atención. Ya se sabe que los comentarios de cualquier publicación de internet son bastante propicios a la crítica voraz.

El impulso de investigadora me pedía que les preguntara a las personas sobre las etiquetas que les habían puesto en la gran fachada del Design Hub, o sobre las etiquetas que les habían puesto a sus amigos. Pero recordé que, para recoger información con finalidad investigadora, tendría que hacer una solicitud al comité de ética de mi universidad, que era viernes, que el festival solo duraba tres días y que el comité de ética no se reuniría hasta el mes siguiente. Así que desistí de preguntar.

Reflexiones sobre los peligros de la inteligencia artificial

Lo que no pude evitar fue oír lo que la gente decía a mi alrededor y tratar de entender qué estaba pasando allí. Me esforcé por aguzar el oído. La amiga que me acompañaba salió etiquetada como «Centenarian»; se rio poco. Sí se escucharon muchas risas alrededor y en toda la plaza. También hubo fuertes risotadas cuando se etiquetaba a otras personas. Unas cuantas instalaciones más adelante, nos encontramos con alguien que saludó a mi amiga, con un risueño «Hola, centenaria». Mi hijo de 8 años fue etiquetado como «lumper». Me preguntó qué significaba eso. Muy a menudo salía la etiqueta «white» y en algunas ocasiones se escuchaba un murmullo de protestas. Al parecer, la persona etiquetada no parecía suficientemente «white».

En ese momento, como investigadora, ya había decidido que no posaría para la cámara, que no me esforzaría por mostrarle mi lado más amable, para intentar que me dijera algo simpático. Pero me quedé más tiempo viendo las reacciones de la gente, que había hecho hasta 30 minutos de fila para ver qué le decía la pantalla. Algunos se sorprendían ante tantos adjetivos lejanos o desconocidos. El sistema solo respondía en inglés. Las etiquetas iban cambiando en la medida en que cambiabas la pose, y la gente intentaba quedar bien en la foto y en la etiqueta. No era fácil, la cámara disparaba en el momento menos pensado.

Entre tantas risas, muchas burlas –el sistema cuenta con un gran número de etiquetas deliberadamente negativas (Crawford; Paglen, 2019)– y algunos pocos halagos, no oí a nadie reflexionando sobre los peligros de la inteligencia artificial, sobre los sesgos de los sistemas que etiquetan a los individuos con base en información previa, o sobre la obsesión de los sistemas inteligentes en etiquetar a las personas. Me preguntaba en qué momento se produciría el toque de atención, o si la cosa se quedaba en un juego de risa fácil. O si el hecho de mudar el debate del foro anónimo de internet al plan de fin de semana con amigos había cambiado el tono de la discusión. Faces… ¿OFF?

Para saber más:

CRAWFORD, Kate; PAGLEN, Trevor (2019, septiembre). «Excavating AI: The Politics of Training Sets for Machine Learning» [en línea]. Disponible en: https://excavating.ai

Llum BCN - Festival de las Artes Lumínicas [en línea]. Disponible en: https://www.barcelona.cat/llumbcn/es/installacions.php?id=1. [Fecha de consulta: 11 de febrero de 2022]

METZ, Cade (2019, septiembre). «‘Nerd,’ ‘Nonsmoker,’ ‘Wrongdoer’: How Might A.I. Label You?». En: The New York Times [en línea]. Disponible en: https://www.nytimes.com/2019/09/20/arts/design/imagenet-trevor-paglen-ai-facial-recognition.html