Marc Serramià Amorós

A Marc Serramià Amorós le resulta «sorprendente» el ritmo vertiginoso al que está creciendo hoy la inteligencia artificial y le preocupan sus posibles riesgos. No hay que olvidar, por ejemplo, que en la actualidad ya existen algoritmos que están orientando la toma de decisiones sobre cuestiones trascendentales para la vida de las personas como el diagnóstico de enfermedades, la concesión de créditos bancarios o el acceso al territorio de un país a través de una aduana. Por ello, ante los dilemas éticos que plantea la inteligencia artificial, Serramià ha centrado su investigación en el desarrollo de técnicas «para controlar que el comportamiento de estos sistemas sea consistente con los valores humanos y las normas sociales», tal y como ha resaltado el jurado que le ha concedido el Premio de la Sociedad Científica Informática de España y la Fundación BBVA.

El investigador galardonado —doctor en Ingeniería (Inteligencia Artificial) por la Universitat de Barcelona, ha sido research associate en el King’s College de Londres y en la actualidad es lecturer en el Departamento de Ciencias de la Computación de la City, University of London— compara su trabajo en el ámbito de la inteligencia artificial al establecimiento de normas para el comportamiento de la sociedad en la regulación del tráfico: «Tenemos límites de velocidad en la carretera, porque valoramos más la vida de los conductores que el hecho de llegar rápido a nuestro destino». De la misma manera, el objetivo de su investigación es desarrollar modelos para que el comportamiento de múltiples agentes inteligentes interactuando se base «en un sistema de valores que queremos que estos agentes apoyen».

Serramià Amorós resalta que «la inteligencia artificial no tiene ninguna moralidad detrás, simplemente está optimizando una fórmula matemática» y, precisamente por ello, le parece imprescindible controlar el desarrollo de esta tecnología para que no se produzcan «situaciones inesperadas en las que vaya a tomar decisiones dañinas».

Al investigador galardonado le preocupa especialmente el uso potencial de la inteligencia artificial en ámbitos militares: «¿Queremos que un algoritmo decida si disparar a un humano o no? Esto trae consigo un sinfín de peligros, desde matar a alguien inocente hasta que esta tecnología caiga en manos de quienes no queremos que la tengan».

Serramià Amorós advierte de que, en realidad, la aplicación de la ética a la inteligencia artificial es todavía un campo que apenas «acaba de empezar», al que él espera poder contribuir con el impulso añadido por el reconocimiento de este galardón: «La alineación de las acciones de la inteligencia artificial con los valores humanos es aún un problema abierto y con muchas líneas con las que seguir investigando… Este premio significa para mí un gran honor y un empujón para seguir trabajando con el objeto de que algún día la inteligencia artificial sea respetuosa con nosotros y así podamos confiar en ella».