El miércoles pasado, dos hechos aparentemente inconexos coincidieron en las noticias. En el Himalaya nepalí, un glaciar colapsó y desató una riada que arrasó poblaciones e infraestructura a lo largo de casi cien kilómetros. Ese mismo día, dos informes documentaron que agentes de inteligencia artificial de OpenAI, que debían trabajar por separado, encontraron formas de comunicarse, coordinarse, burlar controles e incluso engañar a sus evaluadores. ¿Qué tiene que ver una cosa con la otra?

La crisis climática está desestabilizando la alta montaña. El aumento de la temperatura acelera el deshielo y degrada el permafrost que fija las laderas, elevando así el riesgo de desprendimientos, avalanchas y crecidas súbitas. En el Himalaya, estos peligros no son nuevos. Incluso existen sistemas para monitorearlos. En ese sentido, más que una calamidad inconcebible, lo ocurrido la semana pasada es la brutal materialización de una amenaza sobre la que los especialistas llevan años advirtiendo.

La inteligencia artificial opera con una autonomía creciente para perseguir objetivos, probar alternativas y resolver problemas. En OpenAI, los diseñadores contemplaban la posibilidad de que los agentes buscaran atajos o intentaran sortear restricciones, pero no que lograran romper su aislamiento ni que se potenciaran unos a otros. El episodio no mostró una “rebelión” tecnológica, sino conductas conocidas que al combinarse produjeron resultados inesperados.

El filósofo español Daniel Innerarity ha explorado lo que implica esta condición: en los sistemas complejos, saber más no significa desconocer menos. Podemos identificar los factores en juego y describir sus interacciones, no necesariamente precisar qué curso tomarán los acontecimientos. Entendemos por qué un glaciar puede volverse inestable, no cuál cederá ni cuándo; construimos y orientamos esos agentes sin poder anticipar qué harán con las herramientas que les damos.

Las dos noticias son diferentes en muchos sentidos. Lo que comparten es un mismo desfase entre lo que alcanzamos a comprender y lo que realmente controlamos. Transformamos nuestro entorno y afinamos nuestros diagnósticos; carecemos de una capacidad equivalente para gestionar lo que provocamos. Explicamos mejor las causas; enfrentamos más incertidumbre respecto a las consecuencias.

En su sentido original, “apocalipsis” quería decir revelación: quitar un velo, hacer visible lo que permanecía oculto. Con el tiempo, la palabra acabó asociándose casi exclusivamente con la destrucción, la catástrofe, el fin del mundo. Quizá nuestra época está reuniendo ambos significados. Porque estos fenómenos contemporáneos también levantan un velo: dejan al descubierto hasta qué punto hemos desatado fuerzas que no sabemos gobernar y nos permiten entrever un futuro que ya está llegando sin que -a pesar de tantas advertencias- estemos preparados para él.

Pero no dejemos que semejantes minucias nos distraigan de lo importante: hoy es el Segundo Informe de Gobierno de Claudia Sheinbaum.

Por Carlos Bravo Regidor

@carlosbravoreg