«En Nueva York, Copenhague y Montreal me he dado cuenta del gran nivel que tienen los matemáticos de Sevilla»

-Mi padre es sevillano, mi madre vasca pero se vino aquí muy pequeña. Estudié en el Colegio Alemán y cursé el doble grado de Física y Matemáticas en la Universidad de Sevilla. Luego hice el máster de Matemáticas e inicié mi tesis doctoral bajo la dirección de Emilio Carrizosa y Dolores Romero. Tardé cuatro años en terminarla. Los tres hemos recibido el premio SEIO-BBVA por ese trabajo.

-Y sabe tocar el piano.

-Sí, estudié en el Conservatorio Superior, aunque no llegué a terminar porque no pude compatibilizarlo con el doble grado de Física y Matemáticas.

-La música y las matemáticas tienen mucho que ver.

-En mi opinión, son complementarias. Cuando ya no podía más con las matemáticas y la física de la carrera, me metía en la música y me desconectaba. Y me activaba la mente de otra forma. La música me ha ayudado a formarme como científica y el hecho de tocar en público en audiciones me ha ayudado también a hablar y a expresarme en público en las materias relacionadas con mi formación. He podido afrontar mejor mi miedo escénico y ese síndrome del impostor que uno siente cuando tiene que contar su investigación a gente muy experta que con toda seguridad sabe más que tú.

-¿Y ha superado completamente ese síndrome del impostor?

-Sí. Con el paso del tiempo he llegado hasta disfrutar de estas exposiciones, que se han convertido en una forma de aprendizaje como investigadora y en una manera de compartir ideas.

-¿Le costó adaptarse a la forma de trabajar en la Universidad de Montreal?

-Trabajar con otras personas supone hacer cosas distintas y eso es muy enriquecedor. En Montreal el ambiente es muy internacional, con gente de todo el mundo, lo que menos hay son estudiantes o investigadores canadienses. Comparto aulas y laboratorios con personas de Europa, Asia y Latinoamérica. En la Universidad de Sevilla eso no era lo normal porque casi todos mis compañeros y supervisores eran españoles y muchos de ellos sevillanos.

-¿No echa de menos el ambiente de su universidad?

-Sí, el ambiente de la Universidad de Sevilla es el mejor ambiente que he tenido nunca. Éramos muchos alumnos de Doctorado de diferentes campos de matemáticas. Hay mucha comunidad en Sevilla.

-¿No la hay en otras universidades?

-En Nueva York el ambiente era mucho más individualista y la gente era mucho más recelosa a la hora de compartir lo que estaban investigando. Allí estuve cuatro meses y nada se parecía a Sevilla. En Montreal no es tan diferente, hay más deseo de compartir y de ayudarnos unos a otros. En España se da mucha importancia a la docencia y en la Universidad de Montreal la carga docente es mucho menor que en la de Sevilla y eso nos permite dedicar mucho más tiempo a la investigación.

-¿Cuál es el nivel de los matemáticos sevillanos comparado con el de los de las universidades de Nueva York, Copenhague o Montreal?

-En todas esas ciudades me he dado cuenta de que nuestro nivel es muy bueno. El equipo de Matemáticas de Sevilla es muy competitivo, de los más competitivos internacionalmente. Cuando vamos a confererencias, se nota que el equipo sevillano es grande y de calidad y que no tenemos nada que envidiarle a la gente de fuera. Emilio Carrizosa ha sido clave en todo esto y ha hecho un papel fundamental en esta proyección internacional de los matemáticos sevillanos. Me siento muy afortunada de haber estado en su equipo.

-Hábleme de ese trabajo que ha premiado la Fundación BBVA.

-Han premiado uno de los capítulos de mi tesis doctoral, pero todas mis ideas se han compartido con mis codirectores. El premio es, por tanto, de los tres. En ese capítulo, la idea general es el análisis contrafáctico, lo que ocurre cuando nosotros tenemos un algoritmo que clasifica a un individuo en una clase positiva o negativa a la hora de pedir, por ejemplo, un préstamo. Si se la clasifica como la de mal pagador, no se le concederá el préstamo. Nuestro trabajo incide en la necesidad y la obligación de transparencia del algoritmo para que se sepan los criterios que tiene en cuenta esa clasificación. Y darle una explicación a la persona en cuestión sobre el cambio mínimo que tendría que darse en sus características para que ese algoritmo la reclasificara en la clase contraria. En nuestro trabajo vamos más allá de un individuo en concreto y analizamos grupos de personas con patrones similares.

-¿Han descubierto nuevos sesgos en los algoritmos?

-El artículo habla justamente de ese riesgo. Desde que yo empecé mi doctorado, los algoritmos han ido expandiéndose de una manera increíble y determinando cada vez más decisiones que afectan de forma sustancial a la vida de todas las personas en cuestiones, por ejemplo, como la salud o procesos judiciales. Es importante que estos algoritmos, aunque sean cada vez más complejos, no sean cajas negras, es decir, que sean transparentes y puedan explicarse.

¿Hasta qué punto los algoritmos están condicionando nuestra vida cotidiana?

-Es difícil saberlo. Hay muchos casos en que se intentaron implementar y finalmente se abandonaron, como en el caso de los que supuestamente detectaban denuncias falsas ante la Policía. No era suficientemente transparente y se dejó de usar. Pero es verdad que los algoritmos están cada vez más presentes en todas nuestras decisiones, por ejemplo, en las recomendaciones de películas de las plataformas de streaming. O en las rutas idóneas para el reparto de paquetes o el tráfico.

-En Estados Unidos la selección de personal de las grandes empresas se apoya mucho en algoritmos que pueden tener sesgos de raza, género o edad.

-Sí, y esos métodos se extenderán por todo el mundo. Por eso estamos tan interesados en esto. McDonalds utilizó un algoritmo para esto y se descubrió que si en el CV aparecía la palabra mujer o mujeres la probabilidad de ser contratada descendía.

-Un sesgo de género...

-Sí. Los algoritmos se basan en los datos históricos, que ya de por sí pueden tener este tipo de sesgos y lo que hacen muchas veces es amplificarlos.

-¿Cómo se pueden combatir este tipo de sesgos?

-Exigiendo que todos los algoritmos que se implementen tengan un código abierto y que se sepa cómo se ha creado ese algoritmo. Es decir, con transparencia.

-La Inteligencia Artificial parece estar mucho más avanzada en Estados Unidos y en China que en Europa, pero todos los grandes gurús de la tecnología dan por hecho que afectará en poco tiempo a muchos puestos de trabajo. ¿Se percibe también eso en Estados Unidos y en Canadá?

-No he observado hasta ahora diferencias significativas en Estados Unidos respecto a Europa. La IA, en todo caso, es imparable y va a afectar a nuestra vida de forma importante. Esos puestos de trabajo que dejarán de existir se verán sustituidos por otros nuevos y la sociedad deberá adaptarse. También creo que este proceso debe realizarse con cautela y que no debemos precipitarnos.

-Algunas voces dicen que el retraso de Europa en el desarrollo de la IA se debe a un exceso de regulación. ¿Cuál es su opinión?

-Es verdad que en Europa hay mucha más regulación sobre IA, pero si algo sale mal no podemos echarle las culpas a una máquina, esto quiere decir que las decisiones las debe tomar una persona. En EE.UU. va a ser necesario implementar nuevas regulaciones para intentar evitar el mal uso de la IA.

-¿ChatGPT puede llegar a ser peligroso?

-Con ChatGPT pasa lo mismo que con Internet. No podemos creernos todo lo que diga, siempre hay que contrastar. La IA también puede tener sesgos, de modo que hay que contrastar y no perder nuestro criterio humano.

-¿Usa mucho ChatGPT?

-Lo uso para tareas mecánicas. Por ejemplo, si estoy implementando un código, ChatGPT me puede encontrar fácilmente la coma que sobra y no tengo que ir yo viéndolo línea por línea. Desde luego, la IA no me va a dar ideas y lo que está muy mal visto entre la comunidad científica es usarlo para hacer una reseña de un artículo para una revista.

-En España la están usando alumnos universitarios para hacer sus trabajos...

-Hay recursos para descubrirlo. Pero me da pena que esos alumnos confíen más en ChaptGPT que en ellos. Recuerdo a una alumna que vino a preguntarme por qué le había puesto una nota muy baja en un ejercicio y fue porque lo hizo con ChatGPT y equivocó los cálculos. Hay que tener cuidado con ChatGPT, hay que tratarlo como una herramienta más y ser consciente de que no es la verdad absoluta.