Ted Chiang: «No és por a la IA ‘per se’, sinó al que el capitalisme és capaç de fer amb aquestes noves tecnologies» (I)

La cita inclosa en el títol d’aquest article procedeix d’una de les frases més replicades en la taula rodona «Ted Chiang: la ciència-ficció com a forma d’art» i resumeix part del discurs crític que l’escriptor ha vingut enarborant en els últims anys enfront les noves tecnologies.

Després de la seva visita, Chiang va aconseguir posicionar en el debat almenys dos aspectes clau. En primer lloc, la idea que la fe cega en les tecnologies i les seves aplicacions no és més que una manera d’habilitar intervencions en les dinàmiques de la vida (no) digital moderna. En segon lloc, que el temor a les noves tecnologies, i en particular a les intel·ligències artificials (IA), sembla estar menys relacionat amb les mateixes tecnologies i més amb el modus operandi del sistema capitalista actual, les capacitats del qual per aplicar aquestes eines superen la nostra imaginació.

El potencial del capitalisme per explotar tecnologies avançades, incloses les IA, continua sent en gran manera desconegut a causa de la novetat intrínseca d’aquestes eines i la seva contínua evolució en una era marcada per un ritme de canvi accelerat. Podria ser que, en un futur marcat per la desigualtat, la propietat de les dades es converteixi en el factor determinant de noves elits socials? Arribarà el moment en què siguin les IA les que prenguin decisions polítiques, desplaçant els representants governamentals? Continuaran existint taxistes humans en una era d’automatització completa?

Reflexions sobre la construcció de la identitat

En el relat The Lifecycle of Software Objects, publicat per Subterranean Press el 2010 i després inclòs en la seva segona antologia Exhalation (2019), Ted Chiang ens transporta a un món d’intel·ligència artificial on els protagonistes no són màquines o robots tradicionals, sinó avatars d’animals antropomòrfics gairebé reals. La història segueix a l’Ana Alvarado, contractada com a entrenadora i guia de desenvolupament dels anomenats digients, que és com es denomina a aquestes criatures digitals. Els digients són entitats dissenyades per ser mascotes digitals. Això sí, en aquest univers digital creat per Chiang no es limiten a ser productes sofisticats de programari, sinó que són autèntiques intel·ligències. Al llarg del relat, el lector queda atrapat pel desafiador procés evolutiu de l’entrenament dels digients, que planteja una sèrie de reptes complexos.

«On virtual television, a person with a clown avatar holds a digient with a puppy avatar while hammering its legs. The digients’ legs cannot break, as their avatars were not designed with that possibility in mind, and perhaps for the same reason, they cannot scream either. But they can suffer, and that whine is their only way to express it.»

Ted Chiang (The Lifecycle ofSoftwareObjects, 2010)

Aquest relat ens convida a reflexionar sobre l’essència i la construcció de la identitat en qualsevol forma d’intel·ligència. Ted Chiang qüestiona fins a quin punt la inversió emocional i la dependència vers aquestes entitats reflecteix la manera en què el capitalisme fomenta una relació de dependència amb plataformes àmpliament utilitzades com, per exemple, les de Meta. Així, aquesta interdependència assegura un flux continu d’ingressos en tancar els usuaris en ecosistemes d’intel·ligència artificial que exploten la dimensió emocional del consumidor i que acaben sent estructures explotades, vinculades sentimentalment a aquestes plataformes.

És la base substancial de Ted Chiang, que en les seves paraules no és més que l’«enfocament fonamentalment científic-ficcional que consisteix a intentar esbrinar les conseqüències lògiques d’una idea». En aquest cas, planteja com la relació amb les IA podria modelar la nostra manera d’entendre el vincle humà amb la tecnologia i les dinàmiques econòmiques subjacents.

Per això mateix, «no és la por a la IA per se, sinó la por al que el capitalisme és capaç de fer amb aquestes noves tecnologies». Com ens ensenya el mite de Prometeu, les tecnologies són instruments de dominació humana. Pot la IA convertir-se d’aquesta forma en el nou Leviatà?

IA i capitalisme

Aquesta preocupació no és nova. Les últimes dècades del segle passat van ser crucials per a l’impuls del qüestionament ètic i moral de les tecnologies. No és casualitat que el 1989 Úrsula Franklin, la distingida física experimental, denunciés que «la viabilitat de la tecnologia, com la de la democràcia, depèn en última instància de la pràctica de la justícia i de la imposició de límits al poder». Així, uns anys abans que Francis Fukuyama proclamés «la fi de la història», la tecnologia ja es perfilava com un punt d’inflexió.

No obstant això, si la història realment hagués arribat a la seva fi, avui no estaríem tan espantats pel que les IA són capaces de fer. En aquest sentit, cal recordar la teoria de Garrett Hardin, formulada fa més de cinquanta anys, que abordava els reptes de la gestió de recursos naturals i les devastadores conseqüències de la «tragèdia dels comuns». Potser avui ens enfrontem a una possible «tragèdia» de la intel·ligència artificial. Pot el capitalisme ser el motor que provoqui aquesta tragèdia?

Dins dels seus marges, la IA podria impulsar encara més la mercantilització del comportament humà. Si les nostres dades ja formen part del sistema i s’utilitzen com a moneda de canvi, no resulta forassenyat imaginar que la identitat d’una persona o la seva atenció s’estiguin convertint en recursos completament monetitzables.

En aquest context, el negoci de les prediccions futures, per bé que immediat, no fa més que alimentar la incertesa i el desig constant d’anticipar allò que està per venir. Si bé la ciència-ficció ens alerta sobre els potencials riscos, també ens recorda que el futur no està escrit; dependrà de les decisions col·lectives que prenguem avui. El veritable desafiament no és únicament tècnic, sinó profundament humà; de fet, en última instància, és humà. Es tracta d’assegurar que les IA, concebudes com a eines per a construir un futur encara incert, no es transformin en motors de noves desigualtats ni en amenaces per la nostra autonomia i drets fonamentals.

Aquesta crònica es completarà en un segon lliurament centrada en el debat sobre la creativitat, els algorismes i el rol de l’ésser humà en l’era de les IA.

Per saber-ne més:

CENTENO, Miguel A. (1993). «The New Leviathan: The Dynamics and Limits of Technocracy». Theory and Society, vol. 22, no. 3, pàg. 307-335.

CRAWFORD, Kate (2021). The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.

CHIANG, Ted (2010). The Lifecycle of Software Objects. Subterranean Press.

CHIANG, Ted (2019). Exhalation: Stories. Alfred A. Knopf.

PECCEI, Aurelio (1979). «The Future of Man». Food, Climate, and Man, pàg. 261-267. John Wiley & Sons.

Winner, Langdon (1986). The Whale and the Reactor: A Search for Limits in an Age of High Technology. The University of Chicago Press.

Imatge de portada:

Portada i contraportada d’un dels llibres de Chiang. Font: Subterranean Press (disseny de Jacob McMurray).

Citació recomanada

KULAEVA, Zarina; SÁENZ LEANDRO, Ronald. «Ted Chiang: «No és por a la IA ‘per se’, sinó al que el capitalisme és capaç de fer amb aquestes noves tecnologies» (I)». COMeIN [en línia], març 2025, no. 152. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n152.2524