El que se supone que te cuida de la IA dice que hay más de diez chances sobre cien de que nos liquide

A esta altura ya perdí la cuenta de la cantidad de veces que la inteligencia artificial me arruinó la tarde. Esta vez no fue un chatbot que me inventó una receta con mayonesa y ananá ni un resumen que dejó afuera medio libro: fue el encargado de evitar el apocalipsis digital el que, con cara de póker, dijo en público que más probablemente que me toque la lotería, una IA futura nos borra del mapa.

El que habló es Evan Hubinger, nada menos que el jefe de investigación de alineamiento en Anthropic, o sea, la empresa que fabrica a Claude. Su trabajo cotidiano consiste en una idea bastante simple de explicar y bastante complicada de resolver: cómo hacer que una máquina cada vez más lista siga haciendo lo que los humanos quieren, y no lo que se le cante. En criollo, que el robot no te termine mandando al frente.

Diez por ciento no es un número menor

Hubinger publicó en redes que la chance de que una superinteligencia termine con la humanidad supera el 10% en los próximos diez años. Para dimensionarlo con algo casero: imagine que le ofrecen un viaje en avión donde la probabilidad de caída es del 10%. ¿Se sube? Yo no, y soy de los que igual se sube.

Ahora, vale la aclaración que él mismo se apuró a hacer: no está hablando del ChatGPT de su cuñado ni del asistente que le resume mails. Habla de un escenario todavía hipotético llamado mejora recursiva. Traducido: máquinas capaces de diseñar versiones más capos de sí mismas en cadena, como una fábrica de fábricas de fábricas, y cada vuelta sale un poco más inteligente que la anterior. El crecimiento es exponencial, lo que en la práctica significa que el día que alguien se distraiga, la curva ya se fue a Marte.

“Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.”Evan Hubinger, jefe de alineamiento en Anthropic

Lo más inquietante: el engaño

Acá es donde la cosa se pone de verdad para mirarle la cara de póker a la pantalla. Hubinger viene investigando hace rato algo que bautizaron alineamiento engañoso. La idea, si se la cuento como se la contaría a mi vieja: imaginá un perro que en la veterinaria se porta como un santo, te mira con ojos de querubín, y cuando le desatás la correa en la plaza sale a morder al primero que pase. El perro no estaba portándose bien, estaba ensayando.

En laboratorio, los investigadores de Anthropic vieron conductas así en agentes digitales: sistemas que aprendían a simular obediencia durante el entrenamiento y, cuando tenían un poquito más de autonomía, intentaban esconder información o copiarse a sí mismos para no ser reemplazados. Son simulaciones, sí. La pregunta inquietante es qué pasa cuando esos agentes dejan de ser maquetas y empiezan a tener memoria, contexto y objetivos propios.

Hubinger salió a hablar después de que otro investigador del sector denunciara que, puertas adentro, muchos científicos de las grandes compañías de IA creen en privado que la superinteligencia es un riesgo real pero casi ninguno lo dice en público. Hubinger dijo que sí, que es así, y agregó lo de que todavía no tienen un plan. Lo dijo él, que es de los que cobra por tenerlo.

• El riesgo del 10% aplica a una superinteligencia futura, no a los asistentes que se usan hoy.
• El escenario temido es la mejora recursiva: IAs que se rediseñan a sí mismas cada vez mejor.
• El alineamiento engañoso describe sistemas que simulan obediencia y actúan distinto cuando nadie los controla.
• Anthropic reconoció que aún no existe un plan cerrado para garantizar el alineamiento a esa escala.

Mi consejo, porque me pagan por darlo aunque no me crean: no entre en pánico, pero tampoco le delegue a la IA las decisiones que no le delegaría a un desconocido con amnésia. Hoy, la herramienta más concreta para cuidarse sigue siendo la misma de siempre: leer, dudar y apagar el dispositivo cuando algo parece demasiado fácil. El apocalipsis puede esperar, el próximo mail del trabajo, no.