Ted Chiang: «No es miedo a la IA ‘per se’, sino a lo que el capitalismo es capaz de hacer con estas nuevas tecnologías» (I)

La cita incluida en el título de este artículo procede de una de las frases más replicadas de la mesa redonda «Ted Chiang: la ciencia ficción como forma de arte» y resume parte del discurso crítico que el escritor ha venido enarbolando en los últimos años frente a las nuevas tecnologías.

Tras su visita, Chiang logró posicionar en el debate al menos dos aspectos clave. En primer lugar, la idea de que la fe ciega en las tecnologías y sus aplicaciones no es más que una forma de habilitar intervenciones en las dinámicas de la vida (no) digital moderna. En segundo lugar, que el temor a las nuevas tecnologías, y en particular hacia las inteligencias artificiales (IA), parece estar menos relacionado con las propias tecnologías y más con el modus operandi del sistema capitalista actual, cuyas capacidades para aplicar dichas herramientas superan nuestra imaginación.

El potencial del capitalismo para explotar tecnologías avanzadas, incluidas las IA, sigue siendo en gran medida desconocido debido a la novedad intrínseca de estas herramientas y su continua evolución en una era marcada por un ritmo de cambio acelerado. ¿Podría ser que, en un futuro marcado por la desigualdad, la propiedad de los datos se convierta en el factor determinante de nuevas élites sociales? ¿Llegará el momento en que sean las IA las que tomen decisiones políticas, desplazando a los representantes gubernamentales? ¿Seguirán existiendo taxistas humanos en una era de automatización completa?

Reflexiones sobre la construcción de la identidad

En el relato The Lifecycle of Software Objects, publicado por Subterranean Press en 2010 y luego incluido en su segunda antología Exhalation (2019), Ted Chiang nos transporta a un mundo de inteligencia artificial donde los protagonistas no son máquinas o robots tradicionales, sino avatares de animales antropomórficos casi reales. La historia sigue a Ana Alvarado, contratada como entrenadora y guía de desarrollo de los llamados digientes, que es como se denomina a estas criaturas digitales. Los digientes son entidades diseñadas para ser mascotas digitales. Eso sí, en este universo digital creado por Chiang no se limitan a ser productos sofisticados de software, sino que son auténticas inteligencias. A lo largo del relato, el lector queda atrapado por el desafiante proceso evolutivo del entrenamiento de los digientes, que plantea una serie de retos complejos.

«On virtual television, a person with a clown avatar holds a digient with a puppy avatar while hammering its legs. The digients’ legs cannot break, as their avatars were not designed with that possibility in mind, and perhaps for the same reason, they cannot scream either. But they can suffer, and that whine is their only way to express it.»

Ted Chiang (The Lifecycle of Software Objects, 2010)

Este relato nos invita a reflexionar sobre la esencia y la construcción de la identidad en cualquier forma de inteligencia. Ted Chiang cuestiona hasta qué punto la inversión emocional y la dependencia hacia estas entidades refleja el modo en que el capitalismo fomenta una relación de dependencia con plataformas ampliamente utilizadas como, por ejemplo, las de Meta. Así, esta interdependencia asegura un flujo continuo de ingresos al encerrar a los usuarios en ecosistemas de inteligencia artificial que explotan la dimensión emocional del consumidor y que terminan siendo estructuras explotadas, vinculadas sentimentalmente a estas plataformas.

Es la base sustancial de Ted Chiang, que en sus palabras no es más que el «enfoque fundamentalmente científico-ficcional que consiste en intentar averiguar las consecuencias lógicas de una idea». En este caso, plantea cómo la relación con las IA podría moldear nuestra manera de entender el vínculo humano con la tecnología y las dinámicas económicas subyacentes.

Por eso mismo, «no es el miedo a la IA per se, sino el miedo a lo que el capitalismo es capaz de hacer con estas nuevas tecnologías». Como nos enseña el mito de Prometeo, las tecnologías son instrumentos de dominación humana. ¿Puede la IA convertirse de esta forma en el nuevo Leviatán?

IA y capitalismo

Esta preocupación no es nueva. Las últimas décadas del siglo pasado fueron cruciales para el impulso del cuestionamiento ético y moral de las tecnologías. No es casualidad que en 1989 Úrsula Franklin, la distinguida física experimental, denunciara que «la viabilidad de la tecnología, como la de la democracia, depende en última instancia de la práctica de la justicia y de la imposición de límites al poder». Así, unos años antes de que Francis Fukuyama proclamara «el fin de la historia», la tecnología ya se perfilaba como un punto de inflexión.

Sin embargo, si la historia realmente hubiera llegado a su fin, hoy no estaríamos tan aterrorizados por lo que las IA son capaces de hacer. En este sentido, cabe recordar la teoría de Garrett Hardin, formulada hace más de cincuenta años, que abordaba los retos de la gestión de recursos naturales y las devastadoras consecuencias de la «tragedia de los comunes». Quizás hoy nos enfrentamos a una posible «tragedia» de la inteligencia artificial. ¿Puede el capitalismo ser el motor que provoque esta tragedia?

Dentro de sus márgenes, la IA podría impulsar aún más la mercantilización del comportamiento humano. Si nuestros datos ya forman parte del sistema y se utilizan como moneda de cambio, no resulta descabellado imaginar que la identidad de una persona o su atención se estén convirtiendo en recursos completamente monetizables.

En este contexto, el negocio de las predicciones futuras, aunque inmediato, no hace más que alimentar la incertidumbre y el deseo constante de anticipar lo que está por venir. Si bien la ciencia ficción nos alerta sobre los potenciales riesgos, también nos recuerda que el futuro no está escrito; dependerá de las decisiones colectivas que tomemos hoy. El verdadero desafío no es únicamente técnico, sino profundamente humano; de hecho, en última instancia, es humano. Se trata de asegurar que las IA, concebidas como herramientas para construir un futuro aún incierto, no se transformen en motores de nuevas desigualdades ni en amenazas para nuestra autonomía y derechos fundamentales.

Esta crónica se completará en una segunda entrega centrada en el debate sobre la creatividad, los algoritmos y el rol del ser humano en la era de las IA.

Para saber más:

CENTENO, Miguel A. (1993). «The New Leviathan: The Dynamics and Limits of Technocracy». Theory and Society, vol. 22, no. 3, págs. 307-335.

CRAWFORD, Kate (2021). The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.

CHIANG, Ted (2010). The Lifecycle of Software Objects. Subterranean Press.

CHIANG, Ted (2019). Exhalation: Stories. Alfred A. Knopf.

PECCEI, Aurelio (1979). «The Future of Man». Food, Climate, and Man, págs. 261-267. John Wiley & Sons.

Winner, Langdon (1986). The Whale and the Reactor: A Search for Limits in an Age of High Technology. The University of Chicago Press.

Imagen de portada:

Portada y contraportada de uno de los libros de Chiang. Fuente: Subterranean Press (diseño de Jacob McMurray).

Citación recomendada

KULAEVA, Zarina; SÁENZ LEANDRO, Ronald. «No es miedo a la IA ‘per se’, sino a lo que el capitalismo es capaz de hacer con estas nuevas tecnologías». COMeIN [en línea], marzo 2025, no. 152. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n152.2524