A hores d’ara, qui més qui menys ja s’ha sorprès amb algun deepfake. Tots hem vist imatges hiperrealistes generades per eines de síntesi visual: el Papa Francesc vestit amb un abric d’alta costura, falses detencions de polítics o seqüències de vídeo en què figures públiques diuen coses que mai no han sortit de la seva boca. Ens fa gràcia, ens fa por, ens alerta sobre la desinformació en l’àmbit polític. Però, què passa quan traslladem aquesta mateixa capacitat tecnològica al cor mateix de la producció científica?
El debat sobre la intel·ligència artificial generativa en l’àmbit acadèmic s’ha centrat gairebé exclusivament en els grans models de llenguatge com ara ChatGPT, Gemini o Grok, i debatem sobre la redacció assistida, el plagi automatitzat o la signatura d’articles per part d’algorismes. Tanmateix, estem passant per alt una amenaça a futur més profunda i preocupant, com és l’eclosió imminent dels deepfakes de tipus científic, amb la seva capacitat per corrompre l’evidència empírica.
Del soroll quantitatiu a la falsedat impecable
La ciència sempre ha hagut de conviure amb un relatiu nivell de soroll: dades poc precises, mostres massa petites, biaixos metodològics o, directament, episodis de frau tradicional. Però el frau humà (o artesanal, per dir-ho així) tenia els seus límits, tot i ser creixent. Trucar una imatge en un gel d’electroforesi o retocar amb Photoshop alguna imatge cel·lular requeria temps, habilitat i deixava sovint traces o patrons de duplicació que els detectors de frau podien identificar a posteriori. Per als revisors i revisores, hi havia marge i capacitat.
La síntesi de la IA generativa, però, canvia les regles del joc de manera radical. Ja no estem parlant de retocar una foto real, sinó de generar evidència des de zero. Parlem d’imatges microscòpiques d’alta resolució de teixits que mai no han existit, de resultats de ressonància magnètica perfectament estructurats o de vídeos de laboratori en què es mostra un experiment en temps real amb un grau de versemblança indistingible de la realitat. I el més preocupant, a partir d’aquí, és que es poden generar conjunts de dades massives (datasets) ajustats a la perfecció a les distribucions estadístiques esperades, sense cap de les anomalies o errors humans que sovint delaten la fabricació numèrica manual. Més perfecte, però també més fals. Per tant, no ens trobem davant de més soroll de pitjor o millor qualitat, sinó que ens trobem davant de falsedats totalment coherents. I, si cal, es poden afegir petits errors assumibles per donar més versemblança.
Vulnerabilitat del paradigma de la ciència oberta
Aquesta eclosió de dades sintètiques arriba en un moment d’impuls indiscutible i necessari de la ciència oberta. Hem passat anys defensant, amb tota la raó, que el coneixement no ha de quedar tancat darrere de plataformes de pagament, que les dades s’han de compartir sota els principis FAIR i que això redunda en la capacitat de crear més coneixement, però també de fer el procés transparent i revisable.
Ara bé, el model de la ciència oberta es fonamenta en una opció de fons, i és la presumpció de bona fe. La transparència es va dissenyar com un mecanisme d’escrutini públic, assumint que si tothom pot veure les dades, serà més fàcil replicar els experiments i detectar els errors. Què passaria si aquests repositoris oberts s’ inundessin de dades sintètiques i imatges deepfake generades en massa per paper mills? Com afectarà la digestió i nutrició de les mateixes eines a les quals exigim respostes fiables?
La mateixa obertura que permet la reutilització de les dades es converteix en un canal de contaminació. Si investigadors de bona fe utilitzen datasets dipositats en repositoris oberts per fer metaanàlisis o noves investigacions, i aquestes dades inicials eren sintètiques i falses, estarem construint edificis teòrics sobre fonaments inexistents. I el pitjor, que les dades generades per IA s’ajustin perfectament a la teoria esperada, que semblin fins i tot més netes i plausibles que les dades reals, que sempre porten associat el soroll de l’experimentació física.
Col·lapse de la revisió per parells: quan s’abaixa la guàrdia
Aquest escenari s’agreuja si observem l’estat actual de la publicació acadèmica. Ens trobem davant d’un autèntic embut editorial. D’una banda, la pressió per publicar (publish or perish) i la facilitat per generar manuscrits amb assistents d’IA generativa han multiplicat el nombre d’articles enviats a les revistes. De l’altra, el cos de revisors acadèmics està literalment exhaust, desbordat i poc incentivat. Cal recordar aquí que la capacitat de revisió humana és un recurs finit mentre que la capacitat de generació algorísmica és pràcticament infinita.
Davant d’aquesta situació, la fatiga de revisió pot tenir una conseqüència directa: baixar la guàrdia. Un revisor que dedica un parell d’hores a llegir un article entre classe i classe no té ni el temps, ni els mitjans, ni la formació per dur a terme una anàlisi forense digital sobre si una imatge de microscopi és real o un deepfake.
I aquí rau el gran perill: si l’article està ben escrit (gràcies a un model de llenguatge gran o LLM), si la hipòtesi té sentit i si les gràfiques i les imatges sonen plausibles, l’article serà aprovat. La revisió per parells, tal com està concebuda avui, premia la coherència discursiva i lògica, no l’autenticitat material. Si les dades falses semblen raonables, passaran el filtre.
Reflexió de tancament: tornem a apostar per l’‘slow publishing’?
On ens porta tot plegat? Confiar que la solució vindrà de la mateixa tecnologia té el mateix perill que no confiar-hi. Entrarem en una cursa en la qual els models generatius sempre aniran un pas per davant de les eines de detecció. Com en els anys que virus i antivirus informàtics lluitaven emprant els nostres ordinadors com a models d’aprenentatge.
El diagnòstic que comença a emergir em sembla cada cop més clar. El model actual de producció científica accelerada i exponencial no pot absorbir la síntesi generativa sense perdre la seva integritat. Si no volem que la literatura científica es converteixi en una simulació on algorismes generen dades que altres algorismes analitzen, hem de replantejar-nos les regles del joc.
I és aquí on cal reivindicar el paradigma de l’slow publishing (la publicació lenta). Hi afegiria l’aposta per la qualitat per sobre de la quantitat. Així com el moviment slow food va sorgir com una resposta al fast food, reivindicant la qualitat, l’origen de la matèria primera i el temps de preparació, la ciència necessita més que mai i urgentment un moviment equivalent. Slow publishing no vol dir frenar el progrés científic; vol dir adaptar el ritme de la comunicació a la capacitat humana de verificació i de reflexió rigorosa. Això implica tres coses:
- Repensar les mètriques d’avaluació. S’ha fet molt, però caldria deixar de comptar el nombre de treballs i passar a avaluar menys contribucions, però més substancials i auditables. Si només t’avaluen 5 articles, perds l’incentiu per publicar-ne molts i apostes perquè aquests siguin millors.
- Prioritzar la traçabilitat de les dades. Demanar i crear protocols concrets que certifiquin com i on s’han obtingut les dades reals, auditant els entorns d’experimentació.
- Prendre’s el temps de revisar. Valorar la tasca de revisió com un acte acadèmic central, remunerat o reconegut en el temps de dedicació, dotant els avaluadors de recursos per examinar la feina amb profunditat. Més que mai, els autèntics gatekeepers de la ciència.
Si no som capaços de frenar la velocitat de la màquina editorial, la paradoxa de la versemblança acabarà guanyant la partida. En acabat, tindríem una ciència aparentment impecable, ràpida i accessible, però desconnectada de la realitat empírica que pretén estudiar. Potser una ciència en què no cal col·lectiu investigador.
Imatge de portada:
Primer pla d’una gota d’aigua sobre fons blau. Font: Unsplash / Adrien Converse.
Citació recomanada
LÓPEZ-BORRULL, Alexandre. «Enfortir la ciència oberta per lluitar contra la desinformació científica». COMeIN [en línia], novembre 2026, no. 170. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n170.2675



