La inteligencia artificial como vector hegemónico en la transformación de las ciudades (I)

La IA no actúa hoy como una simpática herramienta de optimización. Opera como un vector de gobernanza algorítmica que predetermina, antes de que abramos la boca, las opciones sociales, políticas y espaciales de la vida urbana contemporánea.

 

A partir de ocho puntos, vamos a destripar los cambios estructurales en el diseño de nuestras metrópolis, contrastando el marco teórico y normativo con la publicidad institucional de las «ciudades exitosas», ese relato de laboratorio de innovación y buena gobernanza del que tanto les gusta presumir a los ayuntamientos en congresos internacionales. En esta parte inicial del artículo, los cuatro primeros.

 

1. De la ciberpolítica a la gobernanza algorítmica: la IA como diseñador urbano por defecto

 

El diseño tecnopolítico dejó atrás su infancia ciberpolítica –aquella época candorosa centrada en la interacción humana mediada por plataformas y redes sociales– para adentrarse de lleno en la gobernanza algorítmica. En este nuevo ecosistema, complejos modelos de machine learning, administrados por una santa alianza entre actores estatales y gigantes corporativos, no solo automatizan y predicen, sino que también prescriben milimétricamente la gestión urbana.

 

La IA ha usurpado el puesto de diseñador tecnopolítico por defecto. Esta resplandeciente «autoridad algorítmica» sustituye el ruidoso debate político en las plazas por la silenciosa dictadura de la optimización continua, desplegada mediante dos tentáculos:

 

• Granularidad, la capacidad casi divinizada de aplicar criterios individualizados a cada sujeto en tiempo real.
• Escalabilidad, la facultad de aplicar esas reglas de forma instantánea a poblaciones enteras, sin la molesta necesidad de intervención humana directa.

 

De este modo, la ley votada en los parlamentos es reemplazada por la estadística, y la justicia procedimental se arrodilla ante la eficiencia predictiva. Puesto que la tecnología es «política y socialmente constituyente», la arquitectura de la IA en la ciudad no puede quedarse encerrada en los servidores de un ministerio: hay que arrastrarla de vuelta a la deliberación democrática, aunque eso incomode a quien prefiere gobernar por dashboard.

 

2. La arquitectura de la opacidad urbana: el problema de la «caja negra»

 

Los modelos avanzados de deep learning engullen ingentes volúmenes de datos (big data) para identificar patrones que a los humanos se nos escapan. El problema es que lo hacen bajo una opacidad epistémica insalvable. Al operar como auténticas «cajas negras», resulta sencillamente imposible rastrear sus procesos internos de toma de decisiones; ni siquiera sus propios creadores saben a ciencia cierta por qué el algoritmo decidió lo que decidió, aunque en las notas de prensa siempre suene a certeza matemática.

 

En el diseño urbano, esta ceguera impuesta genera tres crisis severas de control democrático:

 

• Impedimento a la auditoría. Se anula cualquier posibilidad de verificación independiente sobre si un sistema municipal actúa de forma equitativa o transparente, vulnerando el derecho ciudadano a recibir una explicación razonada de las decisiones que moldean su barrio.
• Erosión de la rendición de cuentas (accountability). Si la cadena causal entre el entrenamiento del modelo y el resultado se rompe, la responsabilidad política y legal se desvanecea en un limbo entre programadores, empresas proveedoras y funcionarios desconcertados que «solo siguieron la recomendación del sistema».
• Asimetría de poder. La capacidad predictiva se concentra en un puñado de corporaciones tecnológicas, privatizando el acceso a la verdad epistémica y reduciendo a los gobiernos locales a meros clientes dependientes de un panel de control que no pueden auditar ni entender del todo.

 

Frente a esta arbitrariedad de código cerrado, el diseño tecnopolítico exige el desarrollo urgente de herramientas de explicabilidad algorítmica (XAI) que garanticen la trazabilidad y la justificación pública de los sistemas que nos gobiernan. Lo contrario es gobernar por fe, solo que con más servidores.

 

3. La reproducción automatizada de la desigualdad: sesgos históricos y datos visuales

 

Esa quimera llamada inteligencia artificial no genera sus criterios desde una pulcra neutralidad matemática. Aprende de datos históricos, y la historia –conviene recordarlo– está atravesada por siglos de discriminación de clase, género, raza y origen. Al alimentarse de ese material contaminado, los modelos reproducen y amplifican las desigualdades preexistentes, ahora respaldadas por la incontestable autoridad del número.

 

Es crucial distinguir dos tipos de sesgo:

 

• Sesgos históricos y sociales, prejuicios culturales profundamente arraigados. Como analiza Safiya Umoja Noble en Algorithms of Oppression, los algoritmos no son neutrales: codifican el sexismo y el racismo sistémicos. En el diseño urbano, las investigaciones de Àgata Lapedriza muestran cómo la falta de diversidad en los grandes conjuntos de datos de imágenes provoca que los sistemas de visión por computadora fallen al reconocer a grupos subrepresentados, automatizando la exclusión directamente en la calle.
• Sesgos técnicos, deficiencias constitutivas en la arquitectura del algoritmo, métricas de rendimiento absurdas o fallos directos de hardware.

 

Mitigar el sesgo exige mandar al vertedero el mito de la neutralidad tecnológica y sustituirlo por el principio de justicia distributiva: auditar los datos antes de entrenar (pre-processing), introducir métricas de equidad durante el proceso (in-processing) y aplicar correcciones quirúrgicas a posteriori (post-processing). Todo lo demás es maquillaje estadístico.

 

4. La reconfiguración de la esfera pública: capitalismo de vigilancia, computación afectiva y desinformación

 

Bajo el dogma del capitalismo de vigilancia, los algoritmos de recomendación operan como los nuevos gatekeepers de la atención. Su único mandato supremo es maximizar el engagement. Y para mantener a la masa pegada a la pantalla, la IA prioriza sistemáticamente los contenidos polémicos y viscerales, fabricando filtros burbuja y cámaras de eco que hacen jirones el espacio común necesario para la convivencia urbana y la deliberación democrática.

 

Esta colonización de la vida pública se profundiza mediante dos vectores tecnopolíticos especialmente inquietantes:

 

• Computación afectiva. Los trabajos de Àgata Lapedriza sobre el reconocimiento de emociones a partir de señales visuales demuestran la capacidad de los modelos para inferir estados internos y niveles de estrés a partir de una simple mueca facial. Desplegado en la vía pública, ese conocimiento abre la puerta a la manipulación emocional y al microtargeting político sin el menor consentimiento ciudadano.
• Juegos persuasivos. Como advierte Teresa de la Hera, los sistemas digitales influyen en la conducta mediante representaciones basadas en reglas. Los algoritmos urbanos actúan como retorcidos «juegos» tecnopolíticos diseñados para moldear las actitudes de los transeúntes, aunque nadie recuerde haber aceptado jugar.

 

Si a este cóctel se le suma la fábrica de desinformación automatizada mediante deepfakes, el resultado es la erosión absoluta de la confianza pública y la concesión del «dividendo del mentiroso» a cualquier actor malicioso. La respuesta tecnopolítica no pasa por añadir más censura algorítmica, sino por armar a la ciudadanía mediante estrategias de alfabetización mediática y lúdica (literacy at play).

 

En la segunda parte del artículo, aportaremos los cuatro últimos puntos.

 

Para saber más:

NOBLE, Safiya Umoja (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press.

DE LA HERA, Teresa; RAESSENS, Joost (2021). «Looking Beyond Persuasion Through Rule-Based Representations in Digital Games: Designing Games to Shape, Reinforce, or Change Attitudes». En: T. de la Hera, J. Jansz, J. Raessens y B. Schouten (eds.). Persuasive Gaming in Context, págs. 61-74. Amsterdam University Press. DOI: https://doi.org/10.1515/9789048543939-005

DE LA HERA, Teresa; JANSZ, Jeroen; JACOBS, Ruud; SCHOUTEN, Ben; RAESSENS, Joost; KORS, Martijn (2021). «Persuasive Gaming: From Theory-Based Design to Validation and Back. An Introduction». En: T. de la Hera, J. Jansz, J. Raessens y B. Schouten (eds.). Persuasive Gaming in Context, págs. 7-24. Amsterdam University Press. DOI: https://doi.org/10.2307/j.ctv1hw3z1d.3

KOSTI, Ronak; ALVAREZ, Jose M.; RECASENS, Adrià; LAPEDRIZA, Àgata (2020). «Context Based Emotion Recognition using EMOTIC Dataset». IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 42, n.º 11, págs. 2755-2766. DOI: https://doi.org/10.1109/TPAMI.2019.2916866

STRUBELL, Emma; GANESH, Ananya; McCALLUM, Andrew (2019). «Energy and Policy Considerations for Deep Learning in NLP». En: Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, págs. 3645-3650. Association for Computational Linguistics. DOI: https://doi.org/10.18653/v1/P19-1355

Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de IA / EU AI Act).

 

Imagen de portada:

Ilustración creada por ChatGPT a partir del prompt «Crea una imagen sencilla y sin texto que permita ilustrar un artículo con una visión crítica sobre el tema “La inteligencia artificial como vector hegemónico en la transformación de las ciudades”». Fuente: OpenAI (10 de octubre de 2026).

 

Citación recomendada

FOGLIA, Efraín. «La inteligencia artificial como vector hegemónico en la transformación de las ciudades (I)». COMeIN [en línea], octubre 2026, no. 169. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n169.2665