Un parlamento para los algoritmos

Todas las tecnologías que acompañan a la digitalización implican una despolitización mayor que otras tecnologías anteriores al menos por dos motivos: por sus exorbitadas promesas de objetividad desideologizada y en virtud de su carácter tácito y discreto. Examinemos la primera de esas promesas. La política algorítmica consiste en una peculiar forma de despolitización en nombre de la objetividad. Los algoritmos despolitizan no porque ellos mismos sean apolíticos, sino porque dificultan e incluso imposibilitan el tratamiento político de sus resultados. El éxito de las técnicas algorítmicas no se debe a su capacidad de gestionar enormes cantidades de datos, sino a su lógica de claridad incontestable. Los algoritmos son políticos cuando sus resultados se sustraen al cuestionamiento político, cuando despolitizan los discursos, las acciones y las decisiones.

La segunda peculiaridad de la despolitización algorítmica obedece a su irreflexividad. El condicionamiento más radical, la dimensión más política de la digitalización se efectúa en un espacio tácito, en una modificación sutil de nuestro comportamiento, individual y colectivo. A día de hoy todas nuestras acciones están relacionadas de alguna manera con programas estructurados algorítmicamente (desplazamientos, compras, decisiones de diverso tipo, opiniones…). Aunque muchas de las cosas que decimos o hacemos tengan un curso analógico, están situadas en contextos estructurados algorítmicamente o son observadas mediante técnicas de inteligencia artificial. La digitalización no solo hace la vida más eficiente, más rápida o más cómoda, sino que la modifica de un modo tan profundo que no resulta fácil hacerse cargo de hasta qué punto. Habitamos en un espacio algorítmicamente conformado con independencia de que los utilicemos o no.

El problema democrático que plantean ambas propiedades (la desideologización y la irreflexividad) no es que los algoritmos tomen decisiones, sino que no lo sepamos o consintamos de algún modo. La cuestión es si podemos a su vez politizar los algoritmos, considerar las decisiones algorítmicas como posibilidades de nuestra propia autodeterminación, o si no tenemos más remedio que rendirnos a ellas.

La compatibilidad de la democracia y la inteligencia artificial depende de su politización; es decir, de su inserción en contextos más amplios en los que se haga con los algoritmos lo mismo que las revoluciones democráticas modernas hicieron con el poder: dividirlo y problematizarlo, darle un plazo limitado y limitar también sus competencias, exponerlo a la contestación y la crítica. Si no aceptamos que nadie ejerza un poder político indiscutible, igualmente, cuando se introducen procedimientos algorítmicos en el gobierno, debemos establecer los espacios y cauces que permitan su cuestionamiento, monitorización y auditoría. La creciente tecnificación de los asuntos políticos debe estar compensada por una correspondiente politización de los procedimientos técnicos.

Es propio de la democracia la estimación de las evidencias técnicas y científicas, siempre y cuando no cuestionen el pluralismo de las interpretaciones de la realidad o la diversidad de modos en que dichas evidencias pueden ponerse en juego cuando se trata de decisiones en las que han de hacerse valer también otros criterios. Este principio de pluralidad debería hacerse valer también a la hora de conceder el monopolio de la objetividad y validez a procedimientos como los algoritmos o el 'big data' . La democratización de estas tecnologías pasa, como ha ocurrido siempre que se configuraba una autoridad del tipo que fuera, por su inserción en espacios donde se articule el pluralismo propio de las sociedades democráticas. Aunque muchas de las cosas que decimos o hacemos tengan un curso analógico, están situadas en contextos estructurados algorítmicamente o son observadas mediante técnicas de inteligencia artificial.

No solo hay parlamentos donde se sientan nuestros representantes políticos; también los debe haber para que discutan los datos, los algoritmos y los artefactos. A esto nos estamos refiriendo en última instancia cuando hablamos de politizar la digitalización. La democracia en la era digital es imposible sin una tematización expresa de las tecnologías. Los algoritmos implican siempre elecciones entre valores en competencia que no pueden ser realizadas de acuerdo con razones puramente técnicas y requieren una amplia deliberación pública. La equidad de los algoritmos debe ser entendida como una cuestión política y resuelta políticamente, es decir, que no se trata de optimizar o mejorar las técnicas algorítmicas sino de acomodar los distintos intereses y visiones presentes en una sociedad.

Una democracia es un sistema político que no clausura definitivamente las posibilidades de reflexión y cambio de las realidades institucionalizadas. La democracia es en este sentido un sistema político en el que cualquier procedimiento administrativo, práctica tecnológica o apelación a verdades científicas pueden ser politizados.

La politización pasa siempre por el reconocimiento del carácter constructivo de las diferencias políticas, por no renunciar a las ventajas del desacuerdo institucionalizado, entre los humanos, pero también entre nosotros y nuestros artefactos. Podríamos pensar incluso en la metáfora de un parlamento de los algoritmos y los artefactos porque no existe una sola tecnología, sino una variedad de ellas que hacen valer distintos procedimientos y principios. En ese parlamento digital es donde habría que ponderar y equilibrar las justificaciones tecnológicas, la validez de los datos, los sesgos de los algoritmos, la utilidad de la automatización, de manera análoga a como lo hacemos con nuestras diferencias ideológicas y de intereses en las clásicas instituciones parlamentarias.

Daniel Innerarity es catedrático de Filosofía Política, investigador Ikerbasque en la UPV/EHU y titular de la cátedra Inteligencia Artificial y Democracia en el Instituto Europeo de Florencia. @daniInnerarity