La intel·ligència artificial com a vector hegemònic en la transformació de les ciutats (I)

La IA no actua avui com una simpàtica eina d’optimització. Funciona com un vector de governança algorísmica que predetermina, abans no obrim la boca, les opcions socials, polítiques i espacials de la vida urbana contemporània.

A partir de vuit punts, disseccionarem els canvis estructurals en el disseny de les nostres metròpolis, contrastant el marc teòric i normatiu amb la publicitat institucional de les «ciutats reeixides», aquest relat de laboratori d’innovació i bona governança del qual tant presumeixen els ajuntaments en congressos internacionals. En aquesta part inicial de l’article, els quatre primers.

1. De la ciberpolítica a la governança algorísmica: la IA com a dissenyador urbà per defecte

El disseny tecnopolític va deixar enrere la seva infància ciberpolítica –aquella època candorosa centrada en la interacció humana mediada per plataformes i xarxes socials– per endinsar-se de ple en la governança algorísmica. En aquest nou ecosistema, models complexos de machine learning, gestionats per una santa aliança entre actors estatals i gegants corporatius, no només automatitzen i prediuen sinó que també prescriuen mil·limètricament la gestió urbana.

La IA ha usurpat el lloc de dissenyador tecnopolític per defecte. Aquesta resplendent «autoritat algorísmica» substitueix el sorollós debat polític a les places per la silenciosa dictadura de l’optimització contínua, desplegada mitjançant dos tentacles:

• Granularitat, la capacitat gairebé divinitzada d’aplicar criteris individualitzats a cada subjecte en temps real.
• Escalabilitat, la facultat d’aplicar aquestes regles de manera instantània a poblacions senceres, sense la molesta necessitat d’intervenció humana directa.

D’aquesta manera, la llei votada en els parlaments és reemplaçada per l’estadística, i la justícia procedimental s’agenolla davant l’eficiència predictiva. Com que la tecnologia és «política i socialment constituent», l’arquitectura de la IA a la ciutat no pot quedar-se tancada als servidors d’un ministeri: cal arrossegar-la de tornada a la deliberació democràtica, malgrat que això incomodi a qui prefereix governar per dashboard.

2. L’arquitectura de l’opacitat urbana: el problema de la «caixa negra»

Els models avançats de deep learning engoleixen ingents volums de dades (big data) per identificar patrons que als humans se’ns escapen. El problema és que ho fan sota una opacitat epistèmica insalvable. En operar com a autèntiques «caixes negres», resulta senzillament impossible rastrejar els seus processos interns de presa de decisions; ni tan sols els seus propis creadors saben amb certesa per què l’algorisme va decidir el que va decidir, tot i que les notes de premsa sempre sonin a certesa matemàtica.

En el disseny urbà, aquesta ceguesa imposada genera tres greus crisis de control democràtic:

• Impediment a l’auditoria. S’anul·la qualsevol possibilitat de verificació independent sobre si un sistema municipal actua de manera equitativa o transparent, vulnerant el dret ciutadà a rebre una explicació raonada de les decisions que modelen el seu barri.
• Erosió de la rendició de comptes (accountability). Si la cadena causal entre l’entrenament del model i el resultat es trenca, la responsabilitat política i legal s’esvaeix en uns llimbs entre programadors, empreses proveïdores i funcionaris desconcertats que «només van seguir la recomanació del sistema».
• Asimetria de poder. La capacitat predictiva es concentra en un grapat de corporacions tecnològiques, privatitzant l’accés a la veritat epistèmica i reduint els governs locals a mers clients dependents d’un panell de control que no poden auditar ni entendre del tot.

Enfront d’aquesta arbitrarietat de codi tancat, el disseny tecnopolític exigeix el desenvolupament urgent d’eines d’explicabilitat algorísmica (XAI) que garanteixin la traçabilitat i la justificació pública dels sistemes que ens governen. El contrari és governar per fe, només que amb més servidors.

3. La reproducció automatitzada de la desigualtat: biaixos històrics i dades visuals

Aquesta quimera anomenada intel·ligència artificial no genera els seus criteris des d’una asèptica neutralitat matemàtica. Aprèn de dades històriques, i la història –convé recordar-ho– està travessada per segles de discriminació de classe, gènere, raça i origen. En alimentar-se d’aquest material contaminat, els models reprodueixen i amplifiquen les desigualtats preexistents, ara sostingues per la incontestable autoritat del número.

És crucial distingir dos tipus de biaix:

• Biaixos històrics i socials, prejudicis culturals profundament arrelats. Com analitza Safiya Umoja Noble a Algorithms of Oppression, els algorismes no són neutrals: codifiquen el sexisme i el racisme sistèmics. En el disseny urbà, les recerques d’Àgata Lapedriza mostren com la falta de diversitat en els grans conjunts de dades d’imatges provoca que els sistemes de visió per computadora fallin en reconèixer a grups subrepresentats, automatitzant directament l’exclusió al carrer.
• Biaixos tècnics, deficiències constitutives en l’arquitectura de l’algorisme, mètriques de rendiment absurdes o fallades directes de maquinari.

Mitigar el biaix exigeix llençar a les escombraries el mite de la neutralitat tecnològica i substituir-lo pel principi de justícia distributiva: auditar les dades abans de l’entrenament (pre-processing), introduir mètriques d’equitat durant el procés (in-processing) i aplicar correccions quirúrgiques a posteriori (post-processing). Qualsevol altra cosa és maquillatge estadístic.

4. La reconfiguració de l’esfera pública: capitalisme de vigilància, computació afectiva i desinformació

Sota el dogma del capitalisme de vigilància, els algorismes de recomanació operen com els nous gatekeepers de l’atenció. El seu únic mandat suprem és maximitzar l’engagement. I per mantenir la massa enganxada a la pantalla, la IA prioritza sistemàticament els continguts polèmics i viscerals, fabricant filtres bombolla i cambres de ressò que fan esquinçalls l’espai comú necessari per a la convivència urbana i la deliberació democràtica.

Aquesta colonització de la vida pública s’aprofundeix mitjançant dos vectors tecnopolítics especialment inquietants:

• Computació afectiva. Els treballs d’Àgata Lapedriza sobre el reconeixement d’emocions a partir de senyals visuals demostren la capacitat dels models per inferir estats interns i nivells d’estrès a partir d’un simple gest facial. Desplegat en la via pública, aquest coneixement obre la porta a la manipulació emocional i al microtargeting polític sense el menor consentiment ciutadà.
• Jocs persuasius. Com adverteix Teresa de la Hera, els sistemes digitals influeixen en la conducta mitjançant representacions basades en regles. Els algorismes urbans actuen com retorçats «jocs» tecnopolítics dissenyats per modelar les actituds dels transeünts, malgrat que ningú recordi haver acceptat jugar.

Si a aquest còctel se li suma la fàbrica de desinformació automatitzada mitjançant deepfakes, el resultat és l’erosió absoluta de la confiança pública i la concessió del «dividend del mentider» a qualsevol actor maliciós. La resposta tecnopolítica no consisteix a afegir més censura algorísmica, sinó a armar la ciutadania mitjançant estratègies d’alfabetització mediàtica i lúdica (literacy at play).

En la segona part de l’article, aportarem els quatre últims punts.

Per saber-ne més:

NOBLE, Safiya Umoja (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press.

DE LA HERA, Teresa; RAESSENS, Joost (2021). «Looking Beyond Persuasion Through Rule-Based Representations in Digital Games: Designing Games to Shape, Reinforce, or Change Attitudes». A: T. de la Hera, J. Jansz, J. Raessens i B. Schouten (eds.). Persuasive Gaming in Context, pàg. 61-74. Amsterdam University Press. DOI: https://doi.org/10.1515/9789048543939-005

DE LA HERA, Teresa; JANSZ, Jeroen; JACOBS, Ruud; SCHOUTEN, Ben; RAESSENS, Joost; KORS, Martijn (2021). «Persuasive Gaming: From Theory-Based Design to Validation and Back. An Introduction». A: T. de la Hera, J. Jansz, J. Raessens i B. Schouten (eds.). Persuasive Gaming in Context, pàg. 7-24. Amsterdam University Press. DOI: https://doi.org/10.2307/j.ctv1hw3z1d.3

KOSTI, Ronak; ALVAREZ, Jose M.; RECASENS, Adrià; LAPEDRIZA, Àgata (2020). «Context Based Emotion Recognition using EMOTIC Dataset». IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 42, num. 11, pàg. 2755-2766. DOI: https://doi.org/10.1109/TPAMI.2019.2916866

STRUBELL, Emma; GANESH, Ananya; McCALLUM, Andrew (2019). «Energy and Policy Considerations for Deep Learning in NLP». A: Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pàg. 3645-3650. Association for Computational Linguistics. DOI: https://doi.org/10.18653/v1/P19-1355

Reglament (UE) 2024/1689 del Parlament Europeu i del Consell, de 13 de juny de 2024, pel qual s’estableixen normes harmonitzades en matèria d’intel·ligència artificial (Llei de IA / EU AI Act).

Imatge de portada:

Il·lustració creada per ChatGPT a partir del prompt «Crea una imatge senzilla i sense text que permeti il·lustrar un article amb una visió crítica sobre el tema “La intel·ligència artificial com a vector hegemònic en la transformació de les ciutats”». Font: OpenAI (10 d’octubre de 2026).

Citació recomanada

FOGLIA, Efraín. «La intel·ligència artificial com a vector hegemònic en la transformació de les ciutats (I)». COMeIN [en línia], octubre 2026, no. 169. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n169.2665