“Hace falta un protocolo que regule los sesgos en inteligencia artificial”

Isabel Fernández (León, 1972) lleva tres décadas trabajando en el campo de la inteligencia artificial (IA) y desde hace dos años dirige la división de Inteligencia Aplicada en Accenture España, Portugal e Israel. Su equipo está integrado por 580 personas, entre las que se incluyen científicos de datos, ingenieros y expertos en seguridad e industria.

Es ingeniera informática y doctora en Computación e Inteligencia Artificial, y antes de ser fichada por Accenture trabajó en el ámbito académico y en empresas como American Express o ING Direct.

Tu equipo ha desarrollado un sistema de climatización para Metro de Madrid basado en inteligencia artificial. ¿En qué consiste?

Se trata de un sistema inteligente que controla las temperaturas en las estaciones, túneles y coches de Metro de Madrid. Es uno de los más complejos que se han construido en el mundo para controlar la climatización de metro. Lleva una parte predictiva, que incluye la previsión meteorológica y la afluencia de pasajeros; y otra que prevé la cantidad de calor que inyectará cada uno de los trenes que va entrar en cada una de las 301 estaciones. Todo ello, en tiempo real. Utilizamos un algoritmo de optimización, capaz de movilizar grandes cantidades de datos, para obtener todas las combinaciones posibles.

Por ejemplo, simulamos cuál es la disipación o acumulación de calor en los túneles. Con eso, predecimos cómo va a evolucionar el precio diario de la energía eléctrica y optimizamos consumo y coste. Además, como utiliza machine learning, el sistema va mejorando a la hora de predecir el balance óptimo para cada estación de la red a lo largo del tiempo. Gracias a este sistema, Metro de Madrid ha reducido su consumo de energía por ventilación un 25 % y en 1.800 toneladas anuales sus emisiones de CO₂.

Otro de vuestros desarrollos se ha aplicado en la detección de fraudes en las contrataciones por encargo del Ministerio de Trabajo, Migraciones y Seguridad Social.

Sí, hemos colaborado con el Ministerio de Trabajo en este ámbito. Hasta ahora, los inspectores de la Administración Pública han tenido una labor muy difícil para identificar el fraude en las contrataciones. Nuestro equipo ha desarrollado un sistema de inteligencia artificial que combina la representación del conocimiento basada en grafos con técnicas de machine learning y es capaz de descubrir, entre grandes volúmenes de datos, relaciones que no son las evidentes en el ámbito laboral y, por tanto, son sospechosas. Estas metodologías permiten a los inspectores identificar el fraude potencial.

¿Tenéis colaboraciones con firmas tecnológicas locales?

El proyecto más difícil en nuestro entorno es la innovación constante. Tenemos que estar siempre unos cuantos pasos más allá, imagínate la exigencia. Por ello, la empresa ha tejido una red de colaboraciones a través del programa Open Innovation, que nos mantiene en contacto con start-ups locales para el desarrollo de proyectos. En España trabajamos con unas 500 de estas firmas. Un ejemplo: Savana Med, que ayuda a los médicos en la aplicación de protocolos a partir del entendimiento de las historias clínicas en lenguaje natural.

¿Y con universidades?

Sí, tenemos un programa de doctorados industriales, en colaboración con universidades como la Autónoma de Madrid, la de Oviedo y la Politécnica de Madrid. Así conseguimos que nuestros empleados estén embebidos en los grupos de investigación más punteros en inteligencia artificial, en campos como la biometría, el reconocimiento de imágenes y en la IA responsable.

Isabel Fernández durante la entrevista con SINC. / Álvaro Muñoz Guzmán / SINC

¿Cuáles son los principales retos de la inteligencia artificial en la actualidad?

Uno de los más importantes tiene que ver con la regulación, con la IA responsable. El año pasado se implantó el Reglamento General de Protección de Datos, que vela porque se haga un correcto uso de los datos de los ciudadanos para proteger su privacidad. En septiembre entrará la siguiente regulación, que está muy vinculada a los servicios financieros –el PSD 2– para que la gente tenga libertad de llevarse sus datos a la entidad financiera que considere. Esto favorece la protección y la transparencia.

Tendremos que seguir avanzando en este ámbito, sobre todo en lo que tenga que ver con sesgos en los datos. No me cabe ninguna duda de que esto va a haber que regularlo. Ya no solo se trata de buenas prácticas. Igual que ocurre en un quirófano para garantizar que está limpio, creo que tiene que haber un protocolo o una acreditación para evitar los sesgos en los datos.

¿Cómo va afectar al empleo la inteligencia artificial y la automatización de procesos?

Algunas profesiones se van a reinventar. Tendremos que trabajar todos juntos como sociedad para ver dónde están las necesidades y oportunidades. No es que de repente todos vayamos a tener que trabajar en el ámbito de los datos. Tampoco creo que los puestos que vayan a desaparecer sean los de baja cualificación. La automatización va a afectar a todos los estratos, incluyendo muchas funciones de los puestos directivos.

Por ejemplo…

Pues mira, uno muy cercano: el mío. Hay una parte de mi trabajo que consiste en tener un entendimiento del mercado, en saber predecir cuestiones como el volumen esperado de negocio y luego adecuar o encajar esa previsión con los perfiles que tenemos. Eso suena muy cualificado ¿verdad? Pues eso no es necesario que lo haga una persona, es mucho más preciso y, de hecho, tenemos herramientas que ya hacen parte de esto con procesos de machine learning, que son mucho más finos que cualquier de nosotros porque la intuición está sobreestimada. No hace falta intuición, hacen falta datos. Así que este es un ejemplo para destruir tópicos, es decir, puestos altísimamente cualificados de directivos con funciones que tienen que estar automatizadas porque no tiene ningún sentido. Y esto ya lo estamos haciendo para algunos de nuestros clientes, cuyo nombre no podemos mencionar.

¿Crees que puestos relacionados con los cuidados de las personas van a verse también afectados por la automatización?

En países desarrollados parece que hay tendencia a automatizar el cuidado de los mayores. No creo que esto sea adecuado. Se pueden usar sensores para prevenir caídas u otros problemas, pero eso no es ayudar, es solo un paliativo ante la falta de personas que se dediquen al cuidado de nuestros mayores. Esas tareas piel con piel no pueden ser realizadas por ningún agente cognitivo. Hay puestos en los humanos que somos insustituibles.

¿Qué importancia le da tu empresa a la paridad de género en la plantilla?

Accenture tiene un compromiso a escala global y local de obtener paridad de género en la plantilla para 2025 y estamos trabajando para conseguirlo. También hacemos hincapié en que haya cada vez más mujeres en puestos de responsabilidad. Por ejemplo, en nuestra división, las encargadas del negocio de banca, que normalmente es un campo muy masculino, son mujeres. Se trata de una apuesta real.

He visto que en la empresa tenéis varias iniciativas para promover el interés de las niñas por las carreras tecnológicas…

Sí, hacemos una labor divulgativa que empezamos en los colegios. Hemos organizado talleres de big data e inteligencia artificial y participamos en labores de mentoría en proyectos como Technovation, en el que grupos de niñas de entre seis y dieciséis años tienen que desarrollar una app que entra en un concurso internacional.

También tenemos programas de asesoramiento en universidades para asegurarnos de que las matemáticas, las ingenieras y las físicas tienen la mejor salida al mercado laboral. Todo esto son pequeños impulsos, todavía queda mucho por hacer.