Emilio Jesús Carrizosa Priego, Jasone Ramírez-Ayerbe y Dolores Romero Morales

Cuando un algoritmo de inteligencia artificial (IA) valora negativamente a una persona —por ejemplo, al considerarla en riesgo de sufrir una enfermedad o al denegarle un empleo—, en muchas ocasiones no es posible conocer los motivos por los que ha llegado a esa conclusión. En esos casos, sería deseable que se proporcionara una relación de características similares a las dadas, pero con las que el algoritmo habría propuesto una valoración positiva.

Para facilitar este tipo de explicabilidad en los algoritmos de IA, el artículo “Mathematical optimization modelling for group counterfactual explanations” (“Modelización de optimización matemática para explicaciones contrafácticas grupales”), publicado en el European Journal of Operational Research, desarrolla nuevos modelos matemáticos para encontrar las características (como hábitos de salud o hitos profesionales) que resultarían en una valoración positiva.

“Contribuimos a la necesidad urgente de hacer algoritmos más transparentes”, resume Dolores Romero Morales, catedrática de Investigación Operativa en la Escuela de Negocios de Copenhague (Dinamarca) y galardonada junto a Emilio Carrizosa, catedrático de Estadística e Investigación Operativa en la Universidad de Sevilla, y Jasone Ramírez-Ayerbe, investigadora posdoctoral en la Universidad de Montreal (Canadá).

“La inteligencia artificial explicable es importante para proteger a los individuos, por ejemplo, de discriminación”, añade Romero, ya que “queremos que el algoritmo represente de forma adecuada los datos que han sido utilizados en su construcción, pero estos datos pueden tener un sesgo que no queremos que el algoritmo amplifique”.

La galardonada considera que la investigación operativa se enfrenta actualmente a dos retos principales: el volumen creciente de los datos y su complejidad, ya que existen cada vez más situaciones en las que el flujo de información es continuo y, por tanto, se debe seleccionar qué parte de esa información es relevante para el modelo y cuál no. “Esa selección —explica Romero— nos hace tener que tomar más decisiones en nuestros modelos matemáticos y, por tanto, tenemos modelos más complejos”.

Según la galardonada, la importancia de su disciplina no siempre se aprecia, a pesar de ser muy relevante en numerosas situaciones de la vida cotidiana como la optimización de las rutas de reparto en los pedidos por internet. Pero, sobre todo, afirma que el conocimiento numérico es clave en la sociedad de hoy: “Gracias a la ciencia de datos se pueden visualizar muchas estadísticas que nos hacen ser ciudadanos más informados y nos capacitan para razonar y demandar que se nos ofrezcan mejores recursos”.