‘AI ethics washing’: el ‘sintocentrisme’ i la màquina d’autorrentat

Preparo la participació en una taula rodona titulada «Ètica de la comunicació en temps de la intel·ligència artificial». Vull obrir amb referents de la tradició filosòfica (occidental). Sobre l’ètica, per si no quedava clar. «El bé de l’home és una activitat de l’ànima d’acord amb la virtut» (Aristòtil, 1985, pàg. 83). «Obra només segons aquella màxima per la qual puguis voler al mateix temps que es converteixi en llei universal» (Kant, 2012, pàg. 126). «Els homes han nascut els uns per als altres. Instrueix-los o suporta’ls» (Marc Aureli, 2025, VIII.59). Aquest últim m’oferia, per analogia, un tancament estupend: «Les màquines existeixen per als éssers humans. Instrueix-les o suporta-les». Final. Aplaudiments. Un parell de converses, de les bones, als passadissos. I cap a casa.

Però hi ha alguna cosa, en el mentrestant, que em fa pensar. Aquesta frase (parafrasejada): «La IA és com un ganivet. La pots utilitzar per tallar el pa o per assassinar.»

Regiro els meus papers recents per reprendre. El nostre treball actual en el grup Mediaccions ens ha permès conèixer alguna cosa més sobre la relació entre IA i storytelling, i entre IA i creativitat, a partir dels articles de més impacte a WoS i Scopus. Volíem saber de què s’està parlant en publicacions influents de l’àmbit acadèmic. Constato que, en elles, les referències a l’ètica en intel·ligència artificial són marginals.

En el nostre últim treball, sobre projectes periodístics premiats pel seu ús de la IA, trobem una conclusió contundent: l’ètica s’utilitza majoritàriament (1) a posteriori, en fases ulteriors dels projectes, i (2) com a justificació argumental. Un procés d’emblanquiment i rentat de manual. AI ethics washing. Com a títol, no queda malament.

Reflexions sobre ètica i IA

Reflexionant –quin gran gust poder reflexionar–, la cosa va una mica més enllà. La fal·làcia ètica de la IA construeix les seves bases a partir, no de principis laxos, sinó d’accions que van en contra de la mateixa ètica. La IA que coneixem és –apunto– fundacionalment antiètica. Per diversos motius.

Començant per un extractivisme de contingut autoral, amb un plagi massiu sense reconeixement. Una lògica que s’expandeix des de les idees fins a la materialitat, amb un enorme impacte en els minerals crítics, el consum energètic i els territoris on se situen les seves granges. També en el seu funcionament, amb la incorporació de biaixos de gènere, racials i lingüístics, que es distribueixen, a més, en la seva arquitectura: en les dades d’entrenament, en els desenvolupadors, fins i tot en els usuaris. Una reproducció bourdiana a gran escala que desplaça les minories en la mobilitat del coneixement. Són, a més, tecnologies hiperinvasives, que perfeccionen els sistemes de capitalisme de dades, i que pateixen d’uns nivells d’intromissió en la privacitat i intimitat de les persones que sobrepassen en refinament i extensió les projeccions orwel·lianes. El que ens portaria a posar el focus en els mitjans de producció, en la propietat d’aquests constructes i en uns hiperlideratges tecnològics absolutament verticals, amb un posicionament ideològic evidenciat i que, òbviament, no han estat sotmesos a cap sufragi per part de la ciutadania.

El que ens portaria de tornada a Elon Musk. No li dedicarem més paraules de les estrictament necessàries. Només per radiografiar un pensament, i comprendre on s’estan situant les nostres mirades en l’horitzó: «No m’aixeco pensant: Què innovaré avui? Simplement es tracta de crear les tecnologies necessàries per estendre la vida més enllà de la Terra [...] És bastant obvi que tindrem una IA molt més intel·ligent que els humans i, en certa manera, ja ho és. Espero que sigui benvolent amb nosaltres».

Podíem imaginar que el geocentrisme havia mort fa dècades. La pregunta clau emergeix, no obstant això, per contrast: en quin moment es va completar la transició de l’antropocentrisme al sintocentrisme (sýnthesis + kéntron)?

En les meves anotacions, la condició transhumanista de Musk no suposa una revelació. Sí reencuadro en groc la ruptura entre el pensament de Musk i els clàssics. Subratllo, d’una banda: «bé», «humà», «virtut», «obra», «màxima», «llei universal». Per l’altra: «tecnologies», «estendre», «molt més», «artificial», «benvolent», «amb nosaltres». I en la seva senzillesa, l’esquema revela, no sols una antropomorfització de la tecnologia, sinó també un desplaçament de la humanitat als marges del règim ètic (el que no deixaria de ser un contrasentit). En aquest moviment, una segona troballa: un posicionament de la màquina com a agent del cercle moral, amb la qualitat (-encia) de voler o desitjar (volo) el bé o el bo (bene). Un nou êthos sense lloc per l’ètica.

I mentrestant, la maquinària de rentada ètica no es deté, estenent una pàtina blanca que deixa poc temps i poc marge per revisar les costures. Tampoc des dels cercles acadèmics, un teòric bastió crític on perviu la sensació de l’inevitable. D’aquí, probablement, la sorpresa, el greuge. Quan diem, o escoltem en un panell d’experts:

«La IA és com un ganivet. La pots utilitzar per tallar el pa o per assassinar.»

De debò, no ho crec.

Arriba el moment de la taula rodona. Inici amb referents. Continuo amb referències. Parlo d’una tempesta perfecta, de l’optimisme tecnocràtic, de la producció científica, de la metàfora ecològica, de l’Escola de Frankfurt, dels estudis crítics en IA, de la rebel·lió algorísmica i de la guerrilla semiològica. Apunto a la domesticació de la màquina. Una alfabetització amb l’ètica en el lloc del centrifugat. Una responsabilitat generacional.

I tanco, improvisant:

«La IA és com un ganivet que, per quan vulguis adonar-te’n, tindràs clavat a les costelles.»

Per saber-ne més:

ARISTÒTIL (1985). ). Ética nicomáquea. Ética eudemia (J. Pallí Bonet, Trad.). Gredos.

KANT, Imanuel (2012) [1785]. Fundamentación para una metafísica de las costumbres (R. R. Aramayo, Trad.; 2a ed.). Alianza Editorial.

MARC AURELI (2025). Meditaciones (R. Bach Pellicer, Trad.). Gredos.

Imatge de portada:

Il·lustració que qüestiona la concepció de la IA com a arma de doble tall («La IA és com un ganivet: la pots utilitzar per a tallar el pa o per a assassinar»). Font: imatge creada per l’autor de l’article amb l’eina de IA Nano Banana 2 (data i prompt sense determinar).

Citació recomanada

SÁNCHEZ-LÓPEZ, Iván. «‘AI ethics washing’: el ‘sintocentrisme’ i la màquina d’autorrentat». COMeIN [en línia], setembre 2026, no. 168. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n168.2656