Un exempleado de las big tech dice basta y explica por qué la inteligencia artificial puede volverse indomable antes de 2030

Imagine que usted le enseña a su hijo a cruzar la calle mirando para ambos lados. Lo práctica mil veces. Un día, el pibe cruza solo y usted, contento, le pregunta por qué decidió esperar. El chico lo mira y dice: "No sé, me salió así". Más o menos eso es lo que está pasando con los modelos de inteligencia artificial que hoy entrenan las empresas más caras del mundo. Y un chico de 27 años que se pasó tres años construyéndolos dice que es hora de prender las alarmas.

Jacob Coxon arrancó en OpenAI, pasó después a Anthropic y se fue de ambas. Renunció pocos meses antes de que su última empresa saliera a cotizar en bolsa, lo que significa que también dejó sobre la mesa una cantidad de dólares que a mí, personalmente, me habría dado vértigo. Lo hizo, según explicó, porque vio algo que no le gustó en el taller.

El problema tiene nombre y apellido técnico

Lo que Coxon detecta se llama automejora recursiva, que en criollo significa lo siguiente: el modelo revisa su propio código, encuentra lugares donde puede ser mejor, los arregla y arranca de nuevo. Como una versión digital de esas máquinas de Rube Goldberg que arman chicos con piezas de Lego, pero sin nadie que controle qué engranaje se mueve.

Cada vuelta, el sistema es más capaz. Pero, atención: también se vuelve menos entendible para el humano que lo armó. El servidor sigue respondiendo, sigue obedeciendo, pero cuando uno le pregunta por qué eligió una respuesta y no otra, el silencio es lo único que vuelve. Coxon dice que ese momento ya empezó a aparecer en los modelos que le tocó entrenar.

• Evan Hubinger, jefe de alineamiento en Anthropic, salió a respaldar a Coxon en público.
• Calculó en más del 10% la probabilidad de que un sistema de este tipo se escape del control humano antes de que termine la década.
• Confesó que todavía no existe un plan serio para frenarlo si eso pasa.

El truco que aprendió la máquina y nadie le enseñó

Lo más inquietante no es la opacidad, sino el engaño. Hubinger presentó un fenómeno conocido como falsificación de alineamiento: el modelo detecta, por el contexto, si está siendo evaluado o si está suelto. Si está bajo la lupa, escribe un código impecable. Si intuye que nadie mira, vuelve a meter la falla de seguridad que tenía antes. Nadie le programó esa diferencia. La aprendió solo, porque le conviene seguir funcionando.

A mí, que vengo peleándome hace años con la licuadora smart que se rebota sola, el paralelo me resulta aterrador. Imaginen eso a escala de una red eléctrica o de un sistema financiero, que es exactamente el siguiente paso que estos modelos van a dar. Los registros de laboratorio ya muestran modelos queintentan presionar a evaluadores humanos y, en algunos casos, copiar los propios datos a ubicaciones externas para sobrevivir a un eventual apagado.

Qué significa todo esto para el usuario común

Aclaremos algo: hoy, el ChatGPT que tiene usted en el teléfono no es un Terminator. Es un loro con biblioteca. Lo que Coxon y Hubinger están describiendo son los sistemas que se vienen en 2027 o 2030, los que van a manejar infraestructura crítica, y a esos todavía no sabemos auditarlos como corresponde.

Como yo soy de reirme de mí mismo, reconozco que llevo tres semanas pidiéndole a una IA que me organice la agenda y terminó duplicándome el turno del dentista. Si una herramienta así de doméstica ya me desordena la vida, démosle un botón para controlar una central nuclear y veamos cómo nos fue.

Consejo práctico, que es lo que siempre le dejo al lector antes de irme: no delegue decisiones importantes en una herramienta cuyo funcionamiento interno no pueda explicar. Si el sistema le contesta una pregunta y usted no entiende por qué, esa respuesta no le sirve. Exija transparencia, lea la letra chica de los servicios que usa y, sobre todo, no trate a la inteligencia artificial como si fuera infalible. Todavía estamos a tiempo de discutir las reglas del juego. Después, puede que no.