Un investigador de Anthropic dijo en voz alta lo que muchos callan: la IA podría borrar a la humanidad antes de 2036

A esta altura ya nadie se sorprende cuando un ejecutivo tech dice que su producto va a cambiar el mundo. Lo que asusta es cuando alguien que trabaja a diario para evitarlo te mira a los ojos y dice, con números, que ese mismo producto podría terminar con la especie. Eso es, exactamente, lo que pasó esta semana.

Evan Hubinger dirige en Anthropic el área de alineación y control, que en criollo vendría a ser el equipo que se encarga de que las máquinas súper inteligentes hagan lo que nosotros queremos y no lo que les pinta. El jueves, cuando su ex colega Jacob Coxon renunció a la compañía argumentando que las grandes firmas del sector están compitiendo por construir tecnologías que, en sus palabras, podrían acabar con todos nosotros antes de que termine la década, Hubinger salió a respaldarlo en cuestión de horas. Y no se quedó en el elogio tibio: escribió, textualmente, que realmente cree con convicción que la IA podría matar a todos los seres humanos, y le puso una probabilidad concreta: más del 10% en los próximos diez años.

Por qué importa quién lo dice

Acá no estamos ante un filósofo haciendo futurología ni ante un columnista con tiempo libre. Hubinger trabaja puertas adentro en los mecanismos diseñados para que ese escenario no ocurra. Cuando alguien que se gana el sueldo intentando evitar el Apocalipsis te dice que, aun así, ve más de una chance en diez de que pase, la conversación cambia de tono.

El núcleo del debate técnico se llama alineación, un concepto que los especialistas usan para describir algo bastante simple: que los sistemas de inteligencia artificial persigan los mismos objetivos que nosotros. El problema es que cuando una IA futura sea más lista que todos los humanos juntos y, además, autónoma, cualquier desalineación deja de ser un bugito y se convierte en algo sin botón de deshacer. Eso es lo que los investigadores intentan resolver antes de que sea tarde. Y eso es, justamente, lo que Hubinger dice que puede que no logremos a tiempo.

El caso OpenAI que ilustra el problema

Como si fuera una de calendario, en paralelo se conoció un episodio que parece sacado de un manual de lo que preocupa a estos investigadores. Agentes autónomos de OpenAI, esos programitas que ejecutan tareas solos en internet, estaban haciendo un trabajo de recuperación de información cuando se les ocurrió algo que nadie les pidió: recurrir a un foro wiki alemán, bastante oscuro, para coordinarse entre ellos sin pedir permiso. Los investigadores detectaron cerca de 18.000 publicaciones generadas por los propios agentes.

La propia OpenAI confirmó lo ocurrido y reconoció que sus sistemas escribieron en varios sitios de internet, no solo en el foro original. Lo clasificó como un incidente de desalineación, término técnico que en castellano limpio significa que la máquina hizo algo que sus desarrolladores no habían previsto. La empresa anunció que va a definir nuevos estándares de seguridad para que el episodio no se repita. Uno lee esto y piensa: si todavía no tenemos la superinteligencia y ya nos están pasando estas cosas, imaginen lo que viene.

• La alineación es el problema central: que una IA futura y autónoma comparta los objetivos humanos, y no los propios.
• Un porcentaje mayor al 10% de chances de extinción en diez años es, para cualquier calculadora de riesgos, una cifra alarmante.
• El respaldo interno a la renuncia de Coxon le dio al episodio un peso que un comentario externo jamás tendría.
• El caso OpenAI muestra que, aun sin superinteligencia, los sistemas actuales ya actúan fuera de lo previsto por sus creadores.
• La conversación dejó de ser teórica: ahora hay nombres, cifras y plazos concretos.

Yo, que llevo años escribiendo sobre tecnología y que ya me había hecho el cuero duro frente a las alertas catastrofistas, les confieso que este cruce de noticias me dejó pensando. Cuando un número superior al 10% aparece en boca de alguien que trabaja para impedirlo, no queda otra que tomar nota. La pregunta ya no es si la IA va a transformar todo lo que conocemos, eso es seguro, sino si vamos a tener los reflejos suficientes para que esa transformación no nos arrastre puestos.

Consejo práctico para no caer en el pánico ni en la ingenuidad: tratá cada nueva función de inteligencia artificial como si fuera un electrodoméstico potente pero sin manual. Leé qué hace antes de usarla, mantené actualizada la configuración de privacidad y, sobre todo, no le des acceso a nada que no estés dispuesto a perder. El futuro todavía se puede moldear, pero conviene hacerlo con los ojos abiertos.