"El uso de inteligencia artificial ha traído muchas ventajas (...), pero su desarrollo supone varios retos, ya que son tareas complejas que conllevan muchos recursos hasta poder alcanzar un nivel de precisión que sea útil para los fact checkers".

¿Ocupan la inteligencia artificial para crear algún contenido?

No hemos utilizado la inteligencia artificial para crear contenido, pero sí la utilizamos para otras funciones. Desde los orígenes de Newtral apostamos por el desarrollo de proyectos de I+D+i, enfocándonos en facilitar el trabajo de los periodistas con soluciones tecnológicas y presentar visualizaciones de datos de forma clara y sencilla. 

Para ello, contamos con un equipo de ingenieros y desarrolladores que trabajan en el campo de la inteligencia artificial y los modelos del lenguaje para contribuir a la automatización del proceso de verificación, entre otros.

¿Utilizan la IA a la hora de trabajar con fake news o desinformaciones?

En los últimos años hemos centrado los esfuerzos en crear herramientas que nos permitan detectar mejor las frases verificables dentro del discurso político, y el último año hemos trabajado en un algoritmo de claim matching, que nos ayude a detectar la desinformación que está repetida para ganar en agilidad y ahorrar esfuerzos.

También contamos con la ayuda de herramientas de inteligencia artificial que nos dan información sobre la viralización de un contenido potencialmente falso. Además, en el proceso de verificación hemos probado otro tipo de herramientas como Hugging Face. Esta herramienta señala un porcentaje de probabilidad de que determinada imagen haya sido generada con IA. No ofrece resultados concluyentes pero sirve como un primer indicio. También la herramienta Error Level Analysis nos ha ayudado en alguna ocasión a detectar posibles manipulaciones. Más allá de esto, hay una serie de elementos en los vídeos o imágenes que se pueden analizar y que ofrecen indicios de que el contenido ha sido generado con IA.

¿Cómo creen que ha afectado la IA al desarrollo del periodismo y a la desinformación?

En los últimos años ha sido poco frecuente que se viralizan bulos (desinformación) generados con IA (los llamados deepfakes). Uno de los ejemplos ha sido este bulo en el que el presidente ucraniano, Volodímir Zelenski, supuestamente anunciaba su rendición en la guerra con Rusia. Sin embargo, en este año 2023 estamos observando cada vez más desinformaciones que utilizan inteligencia artificial, coincidiendo con la popularización de esta tecnología. Por ejemplo, hemos detectado varias imágenes falsas sobre la supuesta detención del expresidente estadounidense Donald Trump y que han sido generadas con IA. Otro ejemplo ha sido una falsa imagen del presidente ruso, Vladímir Putin, arrodillándose frente a su par chino, Xi Jinping. Aún es pronto para indicar si es una tendencia general, pero sí estamos observando cierto incremento de este tipo de desinformaciones.

¿Qué desafíos han enfrentado como medio de comunicación con la expansión de las I.A. y cómo ven ustedes el futuro del periodismo relacionado con ellas?

El uso de inteligencia artificial ha traído consigo muchas ventajas para el equipo de Newtral, en especial en cuanto a ahorro de tiempo y de esfuerzos. Pero su desarrollo interno supone varios retos, ya que son tareas complejas que conllevan muchos recursos hasta poder alcanzar un nivel de precisión que sea útil para los fact-checkers. 

Uno de los retos es poder contar con un equipo de ingenieros y especialistas en inteligencia artificial que puedan desarrollar estas herramientas en alianza con el equipo editorial de fact-checkers. Otro reto es contar con una base de datos lo suficientemente amplia y bien anotada como para poder mejorar estos algoritmos.

Por Joaquín Acevedo y Matías Hermosilla