Tornava fa unes setmanes d’un congrés relacionat amb la divulgació científica on havíem estat tractant, com un dels temes rellevants, l’ús de la intel·ligència artificial (IA) generativa. Rumiava, no per primera vegada, que la seva capacitat –no només com a eina ofimàtica, sinó com a font d’informació i tractament de dades– podia ser una gran aliada per a la recerca. Però, com amb cada guany tecnològic, cal donar-li la volta i plantejar-se quines conseqüències pot tenir i si són les que volem (o com podem revertir allò que no podem controlar). Però anem a pams.
En els darrers anys, la IA generativa ha irromput amb força en l’àmbit acadèmic, oferint noves possibilitats per a la producció de coneixement. La seva capacitat per processar grans volums d’informació, generar text coherent i agilitzar la redacció ha suscitat tant entusiasme com preocupació. Un dels principals dilemes que planteja aquesta tecnologia és la manera com afecta la producció científica: hauria de servir per fer millor ciència o només per fer-ne més? Ja és això el que volen (o volem)?
En efecte, hi ha una possibilitat real que la IA generativa es converteixi en un accelerador de la hiperproducció acadèmica, alimentant una bombolla de contingut que no contribueixi significativament al coneixement. Si fins ara volíem o podíem fer dos o tres articles d’impacte cada any, la IA generativa ens permetrà fer-ne quatre o cinc? En aquest article defensem que la seva autèntica utilitat rau en la millora de la qualitat del treball científic, no en l’augment exponencial del nombre de publicacions. Millor que en siguin igualment dos o tres, però millors, amb més impacte, amb més profunditat i que puguin ser referents per a la nostra comunitat. Aquesta reflexió, que no és senzilla, ens interpel·la sobre la nostra mesura de l’èxit acadèmic i és, de fet, paral·lela a la que també ha suscitat l’aplicació dels criteris i fonaments de la ciència oberta a les polítiques científiques, que ha de servir per millorar l’accessibilitat i la qualitat de la recerca, però no per a inundar l’ecosistema acadèmic amb documents de baixa rellevància, amb el risc que s’aporti més soroll documental que no pas qualitat.
Cal tenir en compte, com a context, que l’acadèmia fa temps que pateix la coneguda dinàmica de «publicar o morir», segons la qual la quantitat de publicacions sovint pesa més que el seu impacte real. La IA generativa podria agreujar aquesta tendència (reflectida en la imatge de sota) en permetre als investigadors generar més articles amb menys esforç, però sense necessàriament millorar-ne la profunditat ni la rellevància. Com dèiem, si fins ara un investigador publicava dos articles a l’any, amb l’ajuda de la IA podria arribar a cinc, però això no significa que aquests cinc articles aportin més coneixement que els dos anteriors.
‘The evolution of academia’
Font: Pedromics/Facebook
IA i ciència oberta en la dicotomia qualitat-quantitat
En ciència, com en la música, la reiteració excessiva sense una aportació significativa pot convertir el discurs en soroll. Si ens centrem a produir més, sense garantir que el que produïm sigui millor, correm el risc d’omplir les revistes científiques de versions redundants d’una mateixa idea, amb variacions mínimes i amb un valor real molt limitat.
L’experiència en la implementació de la filosofia de la ciència oberta ens ofereix un paral·lel clar. En teoria, la seva finalitat és democratitzar l’accés al coneixement i millorar la qualitat de la recerca mitjançant la transparència i la col·laboració. No obstant això, l’obertura indiscriminada de dades i publicacions sense mecanismes de control de qualitat podria donar lloc a un volum ingent d’informació que no sempre resulta ni útil ni fiable.
El mateix risc existeix amb la IA generativa: si es fa servir per automatitzar la generació de textos sense una reflexió profunda, es corre el perill de crear un soroll acadèmic similar al que es pot trobar en alguns repositoris de ciència oberta on la quantitat (i l’obligatorietat de ser-hi, altrament necessària) prima sobre la qualitat. L’accés obert ha de servir per oferir millor ciència, de millor qualitat, no només més ciència, de la mateixa manera que la IA generativa hauria d’ajudar a fer articles més rigorosos i ben argumentats, no només a escriure’ls més ràpid.
En aquest sentit, si volem que la IA generativa sigui una aliada per la ciència, potser caldria adoptar un nou paradigma en què la qualitat prevalgui clarament sobre la quantitat, on l’impacte i no el pes formi part del pacte i del consens. Això implica redefinir els criteris d’avaluació acadèmica, tot incentivant el valor real d’una contribució científica en comptes del simple recompte de publicacions. Potser no cal una redefinició tan clara (i tan costosa) com la que ha afectat al factor d’impacte com a mesura de les coses, però sí per ajustar a la baixa l’impacte de la IA generativa.
Aquest canvi de mentalitat ja es va començar a manifestar en iniciatives com la Declaració de San Francisco sobre l’Avaluació de la Recerca (DORA), que promou la valoració del treball científic basant-se en la seva contribució real i no en mètriques quantitatives secundàries, com seria el continent de l’article i no pas el contingut, com de mica en mica es comença ja a considerar. Una aplicació responsable de la IA generativa hauria d’encaixar en aquesta visió, ajudant els investigadors a produir estudis més sòlids, més ben argumentats i amb un impacte real en la comunitat acadèmica.
Així doncs, la IA generativa té un gran potencial per millorar la ciència, però només si s’utilitza amb la intenció de fer-la millor i no simplement més abundant. Igual que amb la ciència oberta, l’objectiu hauria de ser augmentar la qualitat, la transparència, la reproductibilitat i el rigor de la recerca, en comptes de generar un volum incontrolat de contingut acadèmic.
Tot escoltant de nou la cançó Slowly del gracienc Aute, em recorda aquella idea del ritme lent, tot rumiant que això ja ho havia pensat en algun moment. Finalment, em ve un record, sí, ja havia pensat quelcom semblant. Busco en la memòria digital de COMeIN i sí, fa dotze anys, apostava per l’slow publishing. Hi continuarem apostant.
Imatge de portada:
Il·lustració de Pixabay/Pexels.
Citació recomanada
LÓPEZ-BORRULL, Alexandre. «La intel·ligència artificial generativa: una eina no per fer més ciència, sinó per fer-la millor». COMeIN [en línia], abril 2025, no. 153. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n153.2530
