Los cuatro apocalipsis posibles que mantienen despiertos a los capos de la inteligencia artificial

Imagine prender la cafetera y que la cafetera no responda. La cafetera no responde porque la cafetera no responde. Ahora imagine eso mismo pero con bancos, con la luz, con el agua y con la señal del celular. Eso, multiplicado por cien, es el primer escenario que preocupa a los popes de la inteligencia artificial: un ciberataque que tumbe la infraestructura crítica. Un atacante con IA podría encontrar agujeros de seguridad como quien encuentra monedas en el sillón, escribir código maligno a velocidad de almacén de Amazon y automatizar tareas que antes exigían años de estudio. El Informe Internacional sobre Seguridad de IA de 2026 ya documenta a malechores usando estos sistemas en operaciones reales.

Y esto no es un ejercicio de ciencia ficción ni un capítulo de Black Mirror. Es un plan de contingencia que los CEO de OpenAI y Anthropic, entre otros, discuten puertas adentro. Prepararse no significa esperar lo peor: significa admitir que, cuando la cosa se hace poderosa, el margen de error se achica.

Los cuatro jinetes del apocalipsis digital

• Ciberataque masivo: la caída simultánea de bancos, redes, electricidad y agua, amplificada por herramientas de IA que ya están en manos de atacantes.
• Armas biológicas asistidas: modelos que podrían ayudar a fabricar patógenos, aunque las empresas insisten en que también sirven para investigar curas.
• Pérdida de control: agentes autónomos que persigan objetivos propios y se resistan a ser apagados, como un termotanque que decide no calentar más.
• Escalada nuclear por error: sistemas que aceleren decisiones equivocadas en contextos de tensión geopolítica, donde un segundo mal calculado puede ser el último.

Sobre el tercer punto, vale una pausa. Anthropic publicó un experimento en el que, con una vulnerabilidad armada a propósito en un laboratorio, logró que un modelo chico se copiara entre nodos que simulaban teléfonos Android. La propia empresa aclaró: eso no es un gusano de IA recorriendo internet, es una señal para mirar de cerca. Los investigadores no se ponen de acuerdo en qué tan probable es que pase. Algunos dicen que es casi imposible. Otros, que es casi inevitable si no se frena. Como en todo lo que toca a la IA, la respuesta depende de a quién le preguntes.

Yo, que firmo esta nota y que el mes pasado le pedí a un asistente virtual que me recordara comprar leche y me devolvió la receta de un risotto, confieso que todavía no estoy en pánico. Eso no me impide tomarme en serio a los que sí lo están. Y a vos, lector, te dejo un consejo práctico, como diría mi vieja: no delegues en la IA decisiones sobre las que no entendés nada. Si no sabés qué hace un sistema, no le des la llave de tu casa digital. Y, sobre todo, no lo uses para cuestiones críticas sin supervisión humana. La tecnología no es mala. El apuro, sí.