La confianza es esencial para la economía digital. Que nos fiemos de su seguridad se debe a la eficacia probada de las herramientas contra el fraude diseñadas por investigadores como Roi Naveiro (León, 1994), que recibió el galardón de la Fundación BBVA y la Sociedad de Estadística e Investigación Operativa (SEIO) a la mejor contribución metodológica en investigación operativa de 2023. Y la explosión actual de la inteligencia artificial obliga a no bajar la guardia.

«Hay mucha prisa por incorporar estos sistemas. Pero no debe hacerse sin atender los problemas que pueden surgir y atajarlos», advierte este físico que estudió en la Universidad de Salamanca, se doctoró en la Complutense y completó su formación en el Instituto de Ciencias Matemáticas del CSIC. El primer problema es que la IA se equivoca más de lo que aparenta. «Un estudio de Stanford señala que entre el 15 y el 30 por ciento de sus respuestas son erróneas. Y no se deberían usar sin supervisión humana en cuestiones relacionadas con aspectos jurídicos, financieros o de salud», recomienda este profesor de CUNEF.

«Es fundamental la cuantificación de la incertidumbre: cuando le preguntamos algo a estos modelos, no queremos solo una respuesta, sino una valoración de su certeza y su robustez. Esa es mi línea principal de investigación». El segundo problema es que la propia IA se utilice de modo fraudulento. De hecho, los ciberataques han alcanzado máximos históricos; por suerte, sin afectar a contraseñas gracias, de nuevo, a la fortaleza de los diques de seguridad. «La clave está en la escala. Hace años que se pueden enviar mensajes personalizados para estafar, engañar o persuadir, pero era laborioso y exigía mucha ingeniería social, espiar en redes… Ahora es automático. Por eso, las defensas nunca dejan de evolucionar.

Pero los malos no necesitan engañar a todo el mundo. En una campaña electoral, basta con manipular a un porcentaje de los indecisos para alterar el resultado». Naveiro cree que hay demasiadas expectativas puestas en la IA. «Algunas aplicaciones resuelven problemas reales, otras no tanto... Habrá un momento de desencanto. Alcanzarán un tope y se estancarán».