Pablo Castrillo: “Si usamos demasiado la IA perdemos capacidad propia y, en alguna medida, identidad propia”

Cerca de 80 personas, entre estudiantes, profesores y personal de administración y servicios de Tecnun y Ceit, pudieron disfrutar de un coloquio con Pablo Castrillo sobre la verdad en tiempos de la inteligencia artificial. El profesor y vicedecano de estudiantes de la Facultad de Comunicación de la Universidad de Navarra respondió a las preguntas de los estudiantes de doctorado Guillermo Griñán y Agustina Peña.  

“Si usamos demasiado la IA perdemos capacidad propia y, en alguna medida, identidad propia”, insistió Castrillo. Se refirió también a los efectos que puede tener delegar determinadas tareas intelectuales a la IA y para ello citó un estudio del Massachusetts Institute of Technology (MIT). En este, se demostraba que los participantes que habían delegado determinadas tareas cognitivas manifestaban posteriormente mayores dificultades para realizar por sí mismos tareas similares. “La inteligencia artificial no solo permite liberar a las personas de determinadas tareas, sino que puede hacer que algunas actividades que antes realizaban con facilidad pasen a resultarles más difíciles”, recalcó. 

“El hábito de rastrear las fuentes y verificarlas es una obligación universal”

En el marco de la Founder's Week, recordó que el lema de la Universidad de Navarra dice: “Buscar y transmitir la verdad” y por ello, defendió que si el material con el que estamos trabajando está generado por inteligencia artificial, “nunca debemos darlo por bueno en primera instancia, siempre hay que hacer un rastreo de las fuentes”. 

En el coloquio dos estudiantes pudieron hacerle preguntas al profesor. Guillermo Griñán se cuestionó cómo de prudentes deben ser los jóvenes a la hora de fiarse de este tipo de herramientas. “Yo diría que eso no es un peligro de vuestra generación, es un peligro de todas las generaciones”, respondió Castrillo e invitó a analizar los elementos del contenido antes de reaccionar o compartirlo. También, para referirse a las imágenes difundidas en las redes sociales. “Preguntarse si lo que aparece en las imágenes es coherente, de dónde procede, cuál es la finalidad del contenido y qué efecto pretende provocar en quien lo recibe”, añadió.

“La IA no es un colaborador, es una herramienta”

La responsabilidad individual fue otro de los ejes de la conversación. A la pregunta de la estudiante Agustina Peña sobre quién debe asumir la responsabilidad por los resultados y los posibles sesgos de estas herramientas. Castrillo diferenció entre el diseño y el uso de los sistemas. “La responsabilidad del diseño es del desarrollador. La responsabilidad del uso es del usuario”, afirmó.  

Castrillo distinguió la cuestión del plagio y recalcó que “la IA no es un colaborador, es una herramienta”. A su juicio, plagiar de manera accidental es difícil cuando se han adquirido ciertos hábitos intelectuales. El profesor diferenció así el plagio de otros errores que pueden producirse al utilizar inteligencia artificial. Uno de ellos es dar por válidas referencias proporcionadas por un modelo sin comprobar previamente que existen. 

“La IA es un agente del caos”, afirmó al referirse a este problema, que según explicó, también está afectando a las revistas científicas. En estos casos, el problema no sería necesariamente una intención de plagiar, sino no haber realizado el trabajo de verificación.

La verdadera amenaza está en la optimización

Castrillo señaló que, frente a la idea de una inteligencia artificial que adquiera consciencia y desarrolle una personalidad maligna propia, la amenaza que considera más relevante está relacionada con la optimización. Los modelos de IA están diseñados para alcanzar determinados objetivos con una gran eficacia, pero esa eficiencia no implica necesariamente que tengan en cuenta las consecuencias de alcanzar esos objetivos.

Para ilustrarlo, Castillo puso el supuesto de que un empresario utilizará la inteligencia artificial para fabricar clips al menor coste posible. Para ello, la IA empezaría a causar interferencias en los flujos de suministro de la competencia y provocaría más accidentes de tráfico para que generara más chatarra y bajará el precio del metal. Al final la Tierra terminaría enterrada en clips y el ser humano desaparecería.