Patricia Ventura: «Tenim el repte de com fem servir la IA per fer productes més ètics»

Candela Ollé (CO): A l’informe Algoritmes a les redaccions: Reptes i recomanacions per dotar la intel·ligència artificial dels valors ètics del periodisme (Ventura-Pocino, 2021), publicat pel CIC, dius que la IA ha de «col·laborar perquè el periodisme recuperi la centralitat en la definició de l’agenda, perquè un ús ètic de la tecnologia també pot contribuir a recuperar la confiança de la ciutadania, cada cop més conscient dels problemes de la mediació algorítmica». La IA és una amenaça per a la professió o una oportunitat? Creus que la IA serà clau per millorar la confiança i la qualitat periodística?

Patricia Ventura (PV): L’adopció responsable de la intel·ligència artificial (IA) pot contribuir al fet que el periodisme recuperi la confiança, perquè l’ús ètic de la tecnologia contribueix a generar confiança. Tanmateix, pot ser una amenaça si no en fem una apropiació amb criteri ètic. Per exemple, l’automatització dels continguts sense supervisió pot donar lloc a contingut esbiaixat; un excés de personalització pot desnaturalitzar el mitjà, perquè una de les funcions bàsiques del periodisme és precisament oferir una visió comunitària sobre temes d’interès comú; o una mala gestió de les dades personals pot contribuir a minar encara més la confiança en els mitjans. Defensem que la IA pot ser una oportunitat sempre que sapiguem com posar-la al servei de la missió del periodisme de qualitat.

CO: La primera etapa de digitalització de las redaccions va ser durant la dècada de 1990, però els darrers mesos hi ha hagut un boom d’eines d’IA. Eines que també tenen una gran acceptació entre la ciutadania, més enllà de periodistes i comunicadors. Eines que inclouen processament de llenguatge natural, transcripció automatitzada, anàlisi de sentiments, anàlisi d’imatges i vídeos, xatbots i assistents de veu, i visualització de dades. És imparable l’embranzida de la IA i el sorgiment continuat de noves eines? Quines eines destacaries i els motius?

[Segons aquesta informació del Col·legi de Periodistes de Catalunya, aquestes són algunes de les eines d’IA que poden ser emprades:

• Processament de llenguatge natural: permeten analitzar grans volums de text, identificar patrons i extreure informació rellevant. El noms comercials són: NLTK, spaCy i Stanford NLP.
• Transcripció automatitzada: ajuden a transcriure automàticament enregistraments d’àudio i vídeo, i estalvien temps. En són alguns exemples: Otter.ai, Temi i Descript.
• Anàlisi de sentiments: analitzen les dades de les xarxes socials i altres continguts en línia per determinar el sentiment predominant sobre un tema concret. Per exemple, Brandwatch, Hootsuite Insights i RapidMiner.
• Anàlisi d’imatges i vídeos: detecten imatges i vídeos manipulats, identifiquen objectes i persones en contingut visual i, fins i tot, generen subtítols i transcripcions. En són algunes: Google Cloud Vision, Amazon Rekognition i Microsoft Azure Cognitive Services.
• Xatbots i assistents de veu: automatitzen algunes de les tasques repetitives, com ara respondre preguntes freqüents o preparar entrevistes. Les més conegudes són: Chatfuel, Dialogflow i Alexa Skills Kit.
• Visualització de dades: creen gràfics interactius i faciliten la comprensió de dades complexes. Per exemple, Tableau, Datawrapper i Google Data Studio.]

PV: Darrerament, hi ha hagut un boom d’eines que estaven presents, però abans no eren tan accessibles, i això es produeix per la democratització de l’accés del ChatGPT. S’ha estès el debat sobre el futur, què implicaran aquestes eines a les nostres vides i els canvis que venen. Això és positiu perquè en som més conscients i ens planteja una sèrie de debats al periodisme, l’educació, i també en molts altres sectors afectats.

Ara que el debat està tan present, tant de bo ens comencem a preguntar quin sentit té la innovació tecnològica que s’està portant a terme i ens adonem de la necessitat de dotar-la de sentit. Aquest sentit no pot ser altre que més persones tinguin més oportunitats i la cura del medi ambient. Ens hem de preguntar fins a quin punt les innovacions tecnològiques ens ajuden a resoldre grans problemes, potser no deixar-nos impressionar tant i començar a liderar culturalment aquesta innovació tecnològica. En aquest pla, pensem que el periodisme té un paper molt important en la configuració d’una ciutadania crítica.

Les eines que esmentes, totes, tenen un gran potencial i, està demostrat, es fan servir. Segons la recerca feta, les que més valoren les professionals de la comunicació són les que alliberen de les tasques repetitives i feixugues, com ara les transcripcions de les entrevistes. M’interessen especialment les que ajuden a fer un periodisme que abans no era possible fer, per exemple, gràcies al processament del llenguatge natural i altres eines es van poder dur a terme investigacions com Pandora papers. La IA va permetre analitzar en temps rècord una gran quantitat de documents, que ocupaven terabytes. Humanament, no hagués estat possible portar-la a terme en el temps que es va fer. És un cas molt clar sobre com posar la IA al servei de la missió del periodisme.

CO: Fins a quin punt la personalització pot ajudar els mitjans –tant per recuperar confiança com per guanyar noves audiències? Hi ha altres reptes i oportunitats. Quins en destacaries?

PV: La personalització és una de les aplicacions de la IA que més valora el sector, perquè permet oferir continguts més rellevants. Per exemple, si una persona mai no consulta les notícies d’esports, però en canvi no es perd cap novetat literària, tindrà sentit oferir-li en una caixa recomanadora, o a l’app o en un butlletí personalitzat, algun contingut relacionat amb allò que més li pot interessar. Això no ens pot fer perdre de vista, i ho mirem d’argumentar en l’informe del CIC sobre com fer una apropiació responsable de la IA, que una de les funcions del periodisme és exposar la diversitat perquè les persones puguin prendre millors decisions. Per tant, hem de vigilar i no personalitzar fins a l’extrem, i això simplement vol dir oferir i recomanar continguts, però no deixar de mostrar l’agenda del dia, per exemple. D’una altra manera, correm el risc de contribuir a ubicar la ciutadania en bombolles d’informació i, per tant, contribuir a la polarització i a la fractura social.

CO: Un dels aspectes clau és l’enfocament ètic a l’hora d’utilitzar la tecnologia a les redaccions. Quins són els principals reptes ètics sobre l’ús de la intel·ligència artificial per fer periodisme? Què ens en pots dir? S’està fent bé? Què cal millorar?

PV: Alguns ja els hem esmentat. Pèrdua de qualitat generalitzada davant d’un accés d’automatització, el risc d’errors en els continguts, o els biaixos per una manca de supervisió. Un excés de personalització (per les raons exposades en la resposta anterior), temes relacionats amb la privacitat de les dades de les nostres persones usuàries… Hem d’aprendre a manejar més dades i és important la transparència per comunicar com les fem servir. També a l’hora d’explicar si la IA opera en el nostre contingut. Sobretot quan generem textos o continguts audiovisuals amb IA. D’altra banda, tenim el repte de com fem servir la IA per fer productes més ètics; en aquest sentit, hi ha exemples per verificar la informació o detectar els biaixos en el producte informatiu.

És curiós, perquè fa molts anys que es fan servir eines d’IA, però en els equips editorials dels mitjans no n’hi havia la consciència i, per tant, hi ha poca reflexió feta. Per això, l’informe del CIC és el primer que s’ha fet i es va dur a terme precisament per donar eines als mitjans de comunicació per poder elaborar els seus propis codis de conducta a l’hora d’adoptar aquestes eines amb criteri editorial. El que sí que detectem és força interès a fer les coses bé, no n’hi ha cap mena de dubte. El problema és que la IA promet productivitat sens fi i l’optimització dels processos, i en el nostre sector, amb poc múscul econòmic, correm el risc d’optimitzar tant que acabem desequilibrant la balança. És clau saber com s’acabarà responent la pregunta sobre si l’estalvi que comporta l’automatització s’acabarà destinant a fer un periodisme més humà, que valori l’empatia, la relació amb les fonts, l’estil propi, etc. Una de les preguntes clau podria ser com allò humà ens pot ajudar a singularitzar el producte periodístic. La màquina no funciona en termes de «per què la ciutadania hauria de saber això» o «quina és la pregunta incòmoda que hauria de fer». Tampoc no té criteri oral ni percep l’entorn com nosaltres. Queda marge per al bon periodisme.

CO: Quin és, en síntesi, l’estat de la qüestió de la IA a Catalunya? Si tens dades d’Espanya, també les pots comentar.

PV: Ja fa força anys que es fa servir la IA a les redaccions, però no se n’ha parlat gaire fins ara. És comú l’automatització de publicacions a les xarxes socials, la detecció de tendències de conversa a la xarxa per després identificar temes noticiables, ja fa temps que es fa servir la generació automatitzada de textos. Alguns periodistes no n’han estat gaire conscients perquè recauen en equips tècnics.

A Catalunya, es fan servir en mitjans més grans principalment, tot i que també en locals. Les aplicacions més comunes són la detecció de temes noticiables a la fase prèvia de creació de contingut, en funció de les tendències que es detecten a la xarxa i després en la fase de distribució amb motors de recomanació i altres, que tenen la finalitat d’optimitzar les subscripcions.

CO: I, per acabar, quines són les recomanacions per a comunicadors, periodistes i mitjans d’IA?

El més important és preguntar-nos per a què les volem, les eines, i que aquest «per a què» estigui guiat per la missió del periodisme i els seus principis ètics. A grans trets, és recomanable supervisar els processos des del disseny i vetllar per la qualitat de les dades amb què s’alimenten els sistemes. La transparència resulta fonamental. Fins allà on es pugui, cal donar a conèixer als usuaris on està present la IA, en especial en el contingut sintètic. També és important fer una gestió responsable de les dades, respectar la privacitat de les persones usuàries i ser transparent sobre com les fem servir. Així mateix, és recomanable mesurar el grau de personalització, perquè un excés podria soscavar el pluralisme o perjudicar persones vulnerables. A l'informe del CIC aprofundim en tots aquests i altres aspectes que cal considerar a l’hora de crear un codi de conducta propi per a l’adopció responsable de la intel·ligència artificial en el periodisme.

CO: Moltes gràcies, Patricia, per concedir-nos aquesta entrevista.

El periodisme i els professionals que l’exerceixen es troben en un altre moment clau, ja que han de conservar els valors de la professió, continuar recuperant la confiança de l’audiència i, al mateix temps, adaptar-se a les novetats que la IA els brinda, per poder fer informació de qualitat.

Per saber-ne més:

COL·LEGI DE PERIODISTES DE CATALUNYA (2023, gener). «Tendències i prediccions del periodisme, mitjans i tecnologia pel 2023». Col·legi de Periodistes de Catalunya [en línia]. Disponible a: https://www.periodistes.cat/actualitat/noticies/tendencies-i-prediccions-del-periodisme-mitjans-i-tecnologia-pel-2023

COL·LEGI DE PERIODISTES DE CATALUNYA (2023, febrer). «Recursos i eines d’intel·ligència artificial per a periodistes». Col·legi de Periodistes de Catalunya [en línia]. Disponible a: https://www.periodistes.cat/actualitat/noticies/recursos-i-eines-dintelligencia-artificial-periodistes

VENTURA-POCINO, Patricia (2021). Algoritmes a les redaccions: Reptes i recomanacions per dotar la intel·ligència artificial dels valors ètics del periodisme. Consell de la informació de Catalunya (CIC) [en línia]. Disponible a: https://fcic.periodistes.cat/wp-content/uploads/2022/02/algorismes_a_les_redaccions_CAT_.pdf

Citació recomanada

OLLÉ, Candela. «Patricia Ventura: “Tenim el repte de com fem servir la IA per fer productes més ètics”». COMeIN [en línia], abril 2023, no. 131. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n131.2325