Investigadores del Centro Nacional de Supercomputación abren la caja negra de la inteligencia artificial para entender mejor cómo funciona. El proyecto analiza letras de canciones de artistas presentes en todas las ediciones del festival Sónar para detectar patrones y descubrir su evolución en el tiempo.
La irrupción de ChatGPT ha situado a la inteligencia artificial (IA) en el centro de la escena mundial. Con tantas aplicaciones como controversias por su capacidad para generar vídeos e imágenes falsas que no se distinguen de las reales, las conocidas como ‘deepfakes’, el entusiasmo inicial con el que la sociedad había recibido esta tecnología se ha tornado en preocupación y miedo. Esto se debe a su potencial para lanzar campañas de desinformación, así como por apropiarse del trabajo de artistas o programadores informáticos para entrenar sus modelos sin reconocer ni remunerar a sus creadores.
Algunos de estos temores se deben además a la dificultad de comprender cómo estos sistemas basados en datos llegan a sus resultados. Se necesitan técnicas que permitan visualizar el interior de los sistemas de IA, identificando patrones que ayuden a descifrar cómo funciona su caja negra. Este es el objetivo del proyecto ‘EXPLAIN, chat.in.a.box’, que el grupo de Análisis y Visualización de Datos del Barcelona Supercomputing Center-Centro Nacional de Supercomputación (BSC-CNS) presentará en la 30ª edición del festival Sónar, dentro del programa de Sónar+D, que se celebra en Barcelona entre el 15 y el 17 de junio.
Para intentar mostrar cómo funciona la IA desde dentro, el equipo del BSC que dirige el investigador Fernando Cucchietti ha tomado al propio festival Sónar como referencia. Los científicos han recopilado letras de canciones de artistas que han actuado en las tres décadas de trayectoria del festival y las han introducido en GPT-4, la última versión del popular chatbot de OpenAI, con el fin de visualizar patrones en los datos y cruzarlos con otros artistas y otras ediciones del evento para descubrir su evolución a lo largo del tiempo.
“Nuestro objetivo es mostrar cómo funciona la IA desde dentro. Hemos cogido 30 años de canciones de Sónar y los hemos introducido en GPT-4 para analizar cómo este sistema ve el trabajo de los artistas. Abrimos así la caja negra de la IA para comprender mejor cómo capta patrones y tendencias en las letras de las canciones. Al explorar el resultado, podemos entender algo más sobre el funcionamiento de GPT-4, pero también sobre Sónar y los artistas que han actuado en su historia”, afirma Cucchietti.
Nuestro objetivo es mostrar cómo funciona la IA desde dentro
Pese a su nombre, los sistemas de IA no son inteligentes, simplemente reproducen patrones estadísticos que no están basados en el conocimiento, sin representación alguna de narrativas o estados emocionales. Se trata de herramientas de gran potencia informática, con una elevada capacidad de cálculo y acceso a una cantidad ingente de datos que, una vez que han detectado los patrones, pueden completar otros o generar variaciones sobre ellos.
“Por lo tanto, para entender un sistema de IA de este tipo hay que averiguar qué patrones ha encontrado y cómo los utiliza. Esto no es fácil porque los patrones están codificados como parámetros en una red enorme. La mejor manera de hacerlo es crear representaciones visuales de estos patrones para exponer las tendencias de los datos y ver cómo han cambiado con el tiempo”, añade Cucchietti.
Para el proyecto se han recopilado y analizado letras de unas 40.000 canciones de más de mil artistas, y se han podido identificar patrones distintos para los diferentes estilos musicales y líricos de muchos de ellos, su variación en el tiempo, y la similitud o diferencias entre los artistas que han pasado por los escenarios del festival barcelonés.
Las representaciones visuales de esos patrones será lo que podrán explorar los asistentes a Sónar+D, que en esta edición tiene precisamente como tema principal el impacto de la IA en las artes. Además del proyecto del grupo de Análisis y Visualización de Datos, con una larga trayectoria en el festival con diversos proyectos enfocados en la intersección de la ciencia y el arte, el BSC estará también representado por el investigador Joan Llort, del departamento de Ciencias de la Tierra.
Llort, oceanógrafo implicado en proyectos de hibridación entre arte y ciencia, participará en Sónar+D para explicar su experiencia en procesos de cocreación con artistas para repensar observaciones oceanográficas desde un punto de vista estético y conceptual. Esta particular aproximación, entre la residencia artística y la comunicación científica, propone borrar las disciplinas para dar nuevas lecturas a datos científicos.
El pájaro robótico PigeonBot II, probado con éxito en un túnel de viento y de manera autónoma al aire libre, logra volar de manera similar a estas aves, sin aleta vertical. Sus aplicaciones abren el camino para diseñar aviones más eficientes en combustible.
La Fundación BBVA ha galardonado al informático japonés, de la Universidad Carnegie Mellon (EE UU), por crear los algoritmos que permiten a las máquinas comprender las imágenes y procesar los movimientos. Sus técnicas están presentes en los coches autónomos, los drones y todos los robots con capacidad de visión, como los que se usan en cirugía.
