La inteligencia invisible

Más allá del enorme número de usuarios, la participación masiva en el uso de la IA es, en gran medida, una ilusión cuidadosamente orquestada. Mientras jugamos con las aplicaciones públicas de la IA, las decisiones realmente trascendentales se toman en salas de juntas inaccesibles, laboratorios clasificados y contados despachos gubernamentales. Los modelos que usamos son apenas la punta del iceberg, versiones domesticadas de sistemas mucho más potentes que permanecen ocultos. Un puñado de ejecutivos en Silicon Valley tiene hoy más influencia sobre el futuro de la cognición humana que la mayoría de los gobiernos democráticamente elegidos. Sus decisiones sobre la arquitectura de estos sistemas, sus sesgos implícitos y sus probables capacidades no compartidas determinarán qué información consideraremos verdadera, qué preguntas nos parecerán relevantes y qué respuestas aceptaremos como válidas. La concentración de poder es ciertamente extraordinaria y responde a lógicas fríamente mercantiles.

Pero existe con probabilidad un nivel aún más opaco: la dimensión militar y de seguridad nacional. Si se mantiene el patrón de tecnologías precedentes (internet, el GPS o el reconocimiento de voz), los sistemas de IA más avanzados se están desarrollando en laboratorios con presupuestos clasificados, mientras públicamente debatimos sobre sesgos algorítmicos y utilidades en aplicaciones civiles. Hablamos de drones que seleccionan objetivos sin intervención humana, algoritmos que analizan patrones para identificar amenazas, sistemas de vigilancia que procesan millones de rostros y de conversaciones en tiempo real. Si en el mundo civil experimentamos la IA como una herramienta promisoria y casi lúdica, servicial y transformadora, cada interacción puede estar alimentando sistemas de aprendizaje que perfeccionan capacidades para fines que nunca hemos aprobado y que quizá no vislumbramos, pero que bien podrían condicionar nuestro frágil sistema de protección de las libertades.

En la saga Harry Potter, existen los seres mágicos y los muggles, personas que viven en un mundo transformado de hecho por una magia cuya existencia ignoran. Quienes usamos IA somos mayoritariamente muggles. Participamos en sistemas cuyas implicaciones desconocemos y contribuimos con nuestros datos a proyectos cuyo destino y alcance real es opaco. Convivimos y confiamos sin comprensión, expuestos a riesgos quizá palmarios, quizá sutiles. Debemos enfatizar las capacidades y beneficios de las inteligencias artificiales, pero conviene estar preparados frente a sus riesgos. A nivel personal, necesitamos desarrollar una alfabetización tecnológica suficiente, favorecer un pensamiento crítico que abarque el entorno digital y conocer estrategias y derechos de protección de nuestra privacidad. Como país, también como Unión Europea, debemos fortalecer la soberanía tecnológica, promover una regulación inteligente y desplegar una diplomacia tecnológica activa acorde a nuestros valores culturales civilizatorios, es decir: próxima a nuestras propias políticas y a nuestra definición de progreso.

Por primera vez, una tecnología potencialmente transformadora evoluciona en tiempo real ante nuestros ojos, ofreciéndonos la oportunidad de observar, aprender y adaptarnos mientras sucede. Esta ventana no permanecerá abierta indefinidamente. Los sistemas que hoy nos parecen manejables serán superados por versiones mucho más potentes en cuestión de pocos meses. Esa potencia puede escorarse hacia la accesibilidad y la automatización, con el arriesgado precio de la cesión de nuestras propias capacidades críticas, de nuestra independencia como sujetos, de nuestra potencia política transformadora a través de la participación: la IA nos procesa, pero no nos escucha. La escucha es un tesoro humano. Nuestra tarea no es rechazar esta tecnología ni aceptarla sin reservas, sino desarrollar las destrezas y herramientas individuales y colectivas necesarias para integrarla de tal modo que se amplifique lo mejor de la humanidad y se mitiguen adecuadamente sus indudables riesgos.