Paolo Rosso: "Es demasiado fácil echar la culpa a la inteligencia artificial de la desinformación pero, al final, es una herramienta con personas detrás"

A nadie le es ajeno que, en las plataformas digitales y redes sociales, proliferan los mensajes de odio, de misoginia o información falsa, a veces, con gran impacto en la población general. De este modo, detectarlos se convierte en un imperativo para evitar el posible daño y desinformación que pueden provocar. Hoy en día, esto es posible gracias a la inteligencia artificial que utiliza modelos de procesamiento del lenguaje para detectar este tipo de discursos. Para profundizar sobre este tema, hablamos con Paolo Rosso, catedrático de ciencias de la computación de la Universitat Politècnica de València y experto en procesamiento de lenguaje natural y análisis del discurso en redes sociales. Rosso ha asistido al Congreso ‘Public Opinion and Democratic Civic Engagement: Expanding Reflection in Public Agendas’ organizado por la Facultad de Comunicación junto con el Instituto Cultura y Sociedad de la Universidad de Navarra. En este marco, ha ofrecido la conferencia ‘Emotional reactions to information warfare and polarization: AI models for the detection of disinformation and conspiracy theories’.

Para poner contexto, ¿podría dar algunas claves sobre cómo se entrenan los programas para detectar el discurso de odio, la misoginia o las ‘fake news’?
Los modelos de inteligencia artificial se entrenan con muchos datos, a partir de los cuales son capaces de encontrar patrones comunes. También a nivel de imágenes, en el caso de memes o vídeos. Hoy en día estos modelos de inteligencia artificial llegan ya pre-entrenados por las grandes compañías. Entonces, se trata de afinarlos para que se enfoquen en el problema concreto a abordar.  Esto se llama fine-tuning.

Se le pasan unos cuantos ejemplos con los cuales los programas, internamente, van a ajustar las últimas capas basadas en aprendizaje profundo. Se les puede pasar unos pocos ejemplos, lo que se llama Few Shot Learning, de memes y vídeos sexistas y no sexistas, así como la descripción del problema, para ayudarles a discriminar mejor.

¿Cómo afecta el uso de vídeos e imágenes para entrenar los programas? A veces, el texto puede parecer muy neutro, pero según qué imagen pongas, es que no tiene nada que ver, ¿no?
Sí, hay modelos que se llaman modelos de contrastive learning donde se pasa, por un lado, el texto y, por otro, la imagen para contrastar los patrones de modalidad. Como dices, por ejemplo, en los mensajes sexistas en memes se juega con las comillas, el humor, la ironía, el sarcasmo… El texto es, generalmente, la parte más informativa pero, en estos casos, la imagen hace la diferencia.

¿Estas herramientas que entrenan para detectar este tipo de discursos, ¿solo las utilizan ustedes como académicos?
Hoy en día es difícil que uno entrene una herramienta de inteligencia artificial desde cero. Hace unos años, sí. Ahora no se puede competir con las ‘Big Tech’. Como decía antes, los Large Language Models, o modelos masivos de lenguaje, llegan pre-entrenado, con un volumen de datos que sería impensable para un centro de investigación. Es decir, tener una herramienta propia en muchos de estos casos.

Entonces, son herramientas disponibles que se pueden utilizar, algunas son de Open Access, abiertas. Estas herramientas de inteligencia artificial están disponibles para todos y se trata de afinarlas para que se centren y aborden el problema que se quiera resolver de la mejor manera con algunas de las técnicas que he mencionado anteriormente, pero no son herramientas nuestras propias.

¿Por qué es importante detectar este tipo de mensajes en memes y vídeos?
Recibimos muchos memes por plataformas digitales, como WhatsApp. Pero esto se hace especialmente importante hoy en día con las nuevas generaciones porque pasan mucho tiempo mirando vídeos en plataformas como TikTok. Ahí, se consumen vídeos cortos donde los mensajes se van ajustando cada vez más en línea con lo que uno ha visto antes por el sesgo algorítmico que hay detrás. Entonces, es importante abordarlo porque, con el algoritmo, va aumentando el consumo de estos mensajes.

¿Solo supone un problema en TikTok?
No, no.  Sí parece la más peligrosa para recibir ese tipo de mensajes porque, hoy en día, los jóvenes hacen uso de TikTok. Ahora estamos investigando esta plataforma. Antes también investigamos en lo que anteriormente se llamaba Twitter, ahora X.

También he visto que estudiaba la ironía. ¿Cómo es posible programar una IA para que detecte algo tan humano como el tema de la ironía?
Sí, la ironía seguramente dificulta el procesamiento del lenguaje figurado. Es más difícil que el procesamiento del lenguaje natural también entre humanos. A veces notamos que el compañero no entiende la ironía y también nosotros mismos jugamos con eso, ¿no?

Estos modelos consiguen extraerlo, entenderlo y, luego, generalizarlo cuando tienen que detectar la ironía en nuevos mensajes en redes sociales a partir de grandes volúmenes de datos. Así, consiguen extraer estos patrones aunque, en algunos casos, el humano siempre tiene que estar ahí. La persona, el experto, el lingüista, siempre tiene que estar ahí porque es verdad que, en muchos casos, hay patrones no tan evidentes. No es tan fácil para los Large Language Models detectar la ironía pero cada vez lo consiguen mejor.

¿Se sabe si estos discursos de odio, misóginos o fake news, en su mayoría, son también elaborados con inteligencia artificial?
Somos nosotros los que generamos discursos de odio, sobre todo. Vivimos en una sociedad cada vez más polarizada. Es suficiente ver lo que pasa. La fragmentación de la información da pie a difundir desinformación o información parcial y parcialmente falsa. Entonces, sería un poco simplista echar la culpa a la inteligencia artificial. Es verdad que ciertos mensajes también pueden generarse de manera automática y pueden, digamos, propagarse con una velocidad.

Hace ya unos cuantos años el Massachusetts Institute of Technology (MIT) hizo un estudio en lo que antes era Twitter, que empíricamente ha demostrado que los mensajes que contienen información falsa viajan a una velocidad 6 o 7 veces mayor de los mensajes que contienen información verídica. Pero quien los difunde son las personas, independientemente de quién pueda haber creado inicialmente este mensaje. También hay estudios que han demostrado que muchos de estos mensajes pueden haber sido generados de manera automática en fábricas de troles que, por ejemplo, están en Rusia.

Entonces estos mensajes creados por parte de humanos, de troles, o también de manera automática, pueden todavía polarizar más la sociedad, nuestra democracia. Pero ¿quién los difunde? Nosotros. Al fin y al cabo, los culpables somos nosotros.

¿Por qué?
Porque nos movemos por sesgo de conformidad. Nos llega una opinión con respecto a un político que no nos cae nada bien y no averiguamos su veracidad. Nos reafirma en lo que ya pensamos. De este modo, somos nosotros los que “ayudamos” a propagar la información falsa y sin contar los mensajes de odio.

Por ejemplo, esto se ha visto después de la catástrofe de la DANA en Valencia. Pseudo-periodistas y actores maliciosos se han aprovechado de la catástrofe para polarizar la sociedad todavía más. Es demasiado fácil echar balones fuera echando la culpa a los modelos de inteligencia artificial que, sin duda, no hacen la vida fácil desde este punto de vista. Desde otro sí, nos ayudan. Es una herramienta y hay personas detrás y delante. Puede ser muy útil para detectar estos casos pero también, de manera automática, ayudar a difundir mensajes falsos. 

Si se pueden ajustar tanto estas herramientas para detectar estos discursos, ¿se pueden retroalimentar de modo que también ‘aprendan’ a crearlos?Desde hace unos años existe este gran miedo con respecto a las noticias falsas, la desinformación, se llama muchas veces fake news, aunque no deberíamos utilizar este término porque no son fake de principio al final. Había este gran miedo que estas herramientas de inteligencia artificial efectivamente se utilizasen para crear deepfakes que fuese difícil de distinguir de los verdaderos. Al principio era relativamente fácil distinguirlas pero, últimamente no tanto y es más fácil caer y creérselo.

Pero hay estudios que demuestran, por ejemplo, el proyecto Iberifier de la Universidad de Navarra, que no es un problema tan importante,es decir, el contenido falso viene generado, sobre todo, por parte de personas, de humanos, no tanto por parte de la inteligencia artificial. Al final, la IA es una herramienta y también se pude utilizar como arma. Nos puede ayudar, y mucho, para resolver muchos de los problemas pero, al mismo tiempo, también podrían utilizarse por parte de actores maliciosos.