Algoritmos que piensan por nosotros

La IA inaugura un cambio del modelo, desde uno basado en palabras clave, a otro inducido por modelos de lenguaje, que analizan ingentes bases de datos de texto para desarrollar la capacidad de comprender las preguntas de los usuarios y producir respuestas directas, creando texto y código. Esta es, por ejemplo, la tecnología que usa la web ChatGPT para redactar sus respuestas rápidas. En general proveen de un contenido conceptual que lo asimila a Wikipedia o a cualquier web especializada contenida en los navegadores, con la ventaja adicional de la interconectividad ya que permite el chateo, la pregunta, la respuesta, la dúplica y la réplica sobre una base de datos propia no conectada a Internet. También pueden obtenerse líneas de código, fichas de especificaciones de productos, y permite solicitarle que componga poemas, chistes o letras de canciones.

Hasta ahora, los internautas que realizan investigaciones similares en un buscador como Google tienen que agrupar los varios resultados de la búsqueda, leerlos, elaborarlos, resumirlos y sacar sus propias conclusiones críticas para la redacción de un texto. Los chats de IA, por el contrario, ofrecen una respuesta taxativa en unos pocos segundos sin citar las fuentes de información. Se trata de un texto estocástico presuntamente original que uno puede plagiar sin sonrojo, al menos por el momento. Eso sí, a diferencia de Google el producto IA no revela sus fuentes.

Sin embargo, a pesar de estos avances, todavía hay una serie de limitaciones y desafíos que deben superarse para que alcance su máximo potencial.

Por comenzar, una carencia crítica para los profesionales de la información se desprende del hecho de que, al menos el portal ChatGPT, ofrece un conjunto de reseñas que se detienen en 2021. Su base de datos está congelada desde ese año, por lo que no es apto para relatos de actualidad, propios del periodismo de coyuntura. Solo provee de resultados atemporales de contenido 'evergreen', como se denominan en el argot.

También adolece de falta de transparencia e interpretabilidad. Muchos sistemas de IA, en particular los modelos de aprendizaje profundo, se consideran «cajas negras» porque es difícil o imposible comprender cómo llegaron a una decisión en particular. Esta falta de transparencia puede dificultar la confianza en los sistemas de inteligencia artificial, particularmente en aplicaciones críticas como la atención médica o las finanzas.

Una limitación extra es el costo de la recopilación, anotación y capacitación de datos. Cuantos más datos tenga un modelo de IA, más preciso será. Sin embargo, el costo de obtener y anotar grandes cantidades de datos puede ser exorbitante y limitar el desarrollo y la implementación de los sistemas de IA.

Finalmente, la IA también puede verse restringida por condicionantes éticos y sociales. A medida que los sistemas de IA se integran cada vez más en nuestras vidas, surgen preocupaciones sobre cuestiones como la privacidad, o que la IA se utilice con fines maliciosos. Además, a medida que los sistemas de IA se vuelven más potentes, se alza el interrogante acerca de la pérdida de empleos tradicionales susceptible de sustituirse por la nueva realidad digital.

En conclusión, si bien la IA apunta a un instrumento operativo de gran calado, todavía encierra una serie de limitaciones y desafíos que deben superarse para que sea asumible y convincente. Por otro lado, si el pensamiento crítico es, desgraciadamente, una habilidad cada vez menos desarrollada en las sociedades actuales, un paso como este podría llevarnos a que lo fuese aún menos, un desenlace altamente preocupante. Esta reflexión cobra un especial valor en ambientes universitarios donde el acceso a la IA deberá ser regulado sin demoras.