Número 170 (noviembre de 2026)

Fortalecer la ciencia abierta para luchar contra la desinformación científica

Alexandre López-Borrull

A estas alturas, quien más quien menos ya se ha sorprendido con algún deepfake. Todos hemos visto imágenes hiperrealistas generadas por herramientas de síntesis visual: el Papa Francisco vestido con un abrigo de alta costura, falsas detenciones de políticos o secuencias de vídeo en las que figuras públicas dicen cosas que nunca han salido de su boca. Nos hace gracia, nos da miedo, nos alerta sobre la desinformación en el ámbito político. Pero ¿qué pasa cuando trasladamos esta misma capacidad tecnológica al corazón mismo de la producción científica?

El debate sobre la inteligencia artificial generativa en el ámbito académico se ha centrado casi exclusivamente en los grandes modelos de lenguaje como ChatGPT, Gemine o Grok, y debatimos sobre la redacción asistida, el plagio automatizado o la firma de artículos por parte de algoritmos. Aun así, estamos pasando por alto una amenaza a futuro más profunda y preocupante, como es la eclosión inminente de los deepfakes de tipo científico, con su capacidad para corromper la evidencia empírica.

 

Del ruido cuantitativo a la falsedad impecable

 

La ciencia siempre ha tenido que convivir con un nivel relativo de ruido: datos poco precisos, muestras demasiado pequeñas, sesgos metodológicos o, directamente, episodios de fraude tradicional. Pero el fraude humano (o artesanal, si así lo queremos llamar) tenía sus límites, a pesar de su crecimiento. Trucar una imagen en un gel de electroforesis o retocar con Photoshop alguna imagen celular requería tiempo y habilidad, y a menudo dejaba trazas o patrones de duplicación que los detectores de fraude podían identificar a posteriori. Para los revisores y revisoras, había margen y capacidad.

 

La síntesis de la IA generativa, pero, cambia las reglas del juego de manera radical. Ya no estamos hablando de retocar una foto real, sino de generar evidencia desde cero. Hablamos de imágenes microscópicas de alta resolución de tejidos que nunca han existido, de resultados de resonancia magnética perfectamente estructurados o de vídeos de laboratorio que muestran un experimento en tiempo real con un grado de verosimilitud indistinguible de la realidad. Y lo más preocupante, a partir de aquí, es que se pueden generar conjuntos de datos masivos (datasets) ajustados a la perfección a las distribuciones estadísticas esperadas, sin ninguna de las anomalías o errores humanos que a menudo delatan la fabricación numérica manual. Más perfecto, pero también más falso. Por lo tanto, no nos encontramos ante más ruido de peor o mejor calidad, sino que nos encontramos ante falsedades totalmente coherentes. Y, si hace falta, se pueden añadir pequeños errores asumibles para dar más verosimilitud.

 

Vulnerabilidad del paradigma de la ciencia abierta

 

Esta eclosión de datos sintéticos llega en un momento de impulso indiscutible y necesario de la ciencia abierta. Hemos pasado años defendiendo, con toda la razón, que el conocimiento no tiene que quedar encerrado detrás de plataformas de pago, que los datos se tienen que compartir bajo los principios FAIR y que esto redunda en la capacidad de crear más conocimiento, pero también en hacer el proceso transparente y revisable.

 

Ahora bien, el modelo de la ciencia abierta se fundamenta en una opción de fondo, y es la presunción de buena fe. La transparencia se diseñó como un mecanismo de escrutinio público, asumiendo que si todo el mundo puede ver los datos será más fácil replicar los experimentos y detectar errores. ¿Qué pasaría si estos repositorios abiertos se inundaran de datos sintéticos e imágenes deepfake generadas en masa por paper mills? ¿Cómo afectaría a la digestión y la nutrición de las mismas herramientas a las que exigimos respuestas fiables?

 

La misma apertura que permite la reutilización de los datos se convierte en un canal de contaminación. Si investigadores de buena fe utilizan datasets depositados en repositorios abiertos para realizar metaanálisis o nuevas investigaciones, y esos datos iniciales eran sintéticos y falsos, estaremos construyendo edificios teóricos sobre cimientos inexistentes. Y lo peor es que los datos generados por IA se ajusten perfectamente a la teoría esperada, que parezcan incluso más limpios y plausibles que los datos reales, que siempre lleven asociado el ruido de la experimentación física.

 

Colapso de la revisión por pares: cuando se baja la guardia

 

Este escenario se agrava al considerar el estado actual de la publicación académica. Nos encontramos ante un auténtico embudo editorial. Por un lado, la presión para publicar (publish or perish) y la facilidad para generar manuscritos con asistentes de IA generativa han multiplicado el número de artículos enviados a las revistas. Por otro lado, el cuerpo de revisores académicos está literalmente exhausto, desbordado y poco incentivado. Hay que recordar aquí que la capacidad de revisión humana es un recurso finito mientras que la capacidad de generación algorítmica es prácticamente infinita.

 

Ante esta situación, la fatiga de revisión puede tener una consecuencia directa: bajar la guardia. Un revisor que dedica un par de horas a leer un artículo entre clase y clase no tiene ni el tiempo, ni los medios, ni la formación para llevar a cabo un análisis forense digital sobre si una imagen de microscopio es real o uno deepfake.

 

Y aquí rae el gran peligro: si el artículo está bien escrito (gracias a un modelo de lenguaje de gran tamaño o LLM), si la hipótesis tiene sentido y si las gráficas y las imágenes suenan plausibles, el artículo será aprobado. La revisión por pares, tal como está concebida hoy, premia la coherencia discursiva y lógica, no la autenticidad material. Si los datos falsos parecen razonables, pasarán el filtro.

 

Reflexión de cierre: ¿volvemos a apostar por el ‘slow publishing’?

 

¿Adónde nos lleva todo ello? Confiar en que la solución vendrá de la misma tecnología conlleva el mismo peligro que no confiar en ella. Entraremos en una carrera en la que los modelos generativos siempre irán un paso por delante de las herramientas de detección. Como en los años en que los virus y los antivirus informáticos luchaban, empleando nuestros ordenadores como modelos de aprendizaje.

 

El diagnóstico que empieza a emerger me parece cada vez más claro. El modelo actual de producción científica acelerada y exponencial no puede absorber la síntesis generativa sin perder su integridad. Si no queremos que la literatura científica se convierta en una simulación en la que algoritmos generan datos para que otros algoritmos los analicen, tenemos que replantearnos las reglas del juego.

 

Y es aquí donde hay que reivindicar el paradigma del slow publishing (la publicación lenta). Y añadiría la apuesta por la calidad por encima de la cantidad. Así como el movimiento slow food surgió como respuesta al fast food, reivindicando la calidad, el origen de la materia prima y el tiempo de preparación, la ciencia necesita más que nunca, y con urgencia, un movimiento equivalente. Slow publishing no quiere decir frenar el progreso científico; quiere decir adaptar el ritmo de la comunicación a la capacidad humana de verificación y de reflexión rigurosa. Esto implica tres cosas:

 

  • Repensar las métricas de evaluación. Se ha hecho mucho, pero habría que dejar de contar el número de trabajos y pasar a evaluar menos contribuciones, pero más sustanciales y auditables. Si solo te evalúan 5 artículos, pierdes el incentivo para publicar muchos y apuestas a que estos sean mejores.
  • Priorizar la trazabilidad de los datos. Pedir y crear protocolos concretos que certifiquen cómo y dónde se han obtenido los datos reales, auditando los entornos de experimentación.
  • Tomarse el tiempo de revisar. Valorar la tarea de revisión como un acto académico central, remunerado o reconocido en el tiempo de dedicación, dotando a los evaluadores de los recursos necesarios para examinar el trabajo en profundidad. Más que nunca, los auténticos gatekeepers de la ciencia.

 

Si no somos capaces de frenar la velocidad de la máquina editorial, la paradoja de la verosimilitud acabará ganando la partida. Después, tendríamos una ciencia aparentemente impecable, rápida y accesible, pero desconectada de la realidad empírica que pretende estudiar. Quizás una ciencia en la que no hace falta un colectivo investigador.

 

Imagen de portada:

Primer plano de una gota de agua sobre fondo azul. Fuente: Unsplash / Adrien Converse.

 

Citación recomendada

LÓPEZ-BORRULL, Alexandre. «Fortalecer la ciencia abierta para luchar contra la desinformación científica». COMeIN [en línea], noviembre 2026, no. 170. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n170.2675

comunicación científica;  inteligencia artificial;  gestión del conocimiento;  ciencia;