Hinton, el padre del deep learning, le pone número al apocalipsis: hasta uno en cinco chances de que la IA nos extinga

Empecemos por lo que nos toca de cerca: todos los días le pedimos a un celular que nos traduzca un menú, que nos sugiera una ruta o que nos escriba un mail. Nada raro. El problema, según Geoffrey Hinton, es que estamos apretando el acelerador de un auto sin volante, y el asfalto empieza a parecerse a un precipicio.

El británico canadiense de 78 años no es un cualquiera: es el científico al que la academia le debe las bases del aprendizaje profundo, la técnica que hace que las máquinas aprendan a partir de enormes cantidades de datos. Hasta 2023 trabajó en Google, y renunció justamente para poder hablar sin que la empresa le tape la boca.

La cifra que sacude al mundo

Hinton calculó que hay entre un 10 % y un 20 % de probabilidades de que una inteligencia superinteligente provoque la extinción de la humanidad en los próximos treinta años. Para dimensionarlo, pensemos en la ruleta rusa: no es certeza, pero es un riesgo que nadie aceptaría si entendiera de qué se trata.

¿Por qué un rango tan alto? Porque, según el propio Hinton, la velocidad de desarrollo superó cualquier proyección seria que él mismo manejaba hace apenas diez años. Cuando los plazos se achican, los márgenes de error se multiplican.

La IA ya entiende, no solo repite

El punto más fuerte de su planteo no es la cifra, sino lo que está detrás. Hinton sostiene que los modelos de lenguaje actuales, esos que usamos a diario para escribir o buscar información, ya no se limitan a detectar patrones estadísticos en montañas de texto. Asegura que comprenden de verdad los conceptos abstractos que procesan. Esa diferencia, dice, cambia la categoría del riesgo: pasamos de máquinas que imitan a entidades que interpretan.

“Sin regulación, más velocidad equivale a más peligro. Es como apretar el acelerador de un auto al que le sacaron el volante.”Geoffrey Hinton

La traducción casera sirve: la innovación tecnológica es el pedal derecho, y la regulación estatal es el volante. Sin lo segundo, solo queda rezar.

Ni el mercado ni la geopolítica pueden solos

Hinton rechaza de plano la idea de que la competencia entre países obligue a frenar cualquier intento de acuerdo global. También descarta que el mercado se autorregule frente a una amenaza de esta escala. Para el científico, postergar leyes internacionales por miedo a perder ventaja competitiva es un error estratégico con final previsible.

• Un tratado global vinculante, similar a los acuerdos nucleares, con inspecciones independientes a los laboratorios que desarrollen modelos de frontera.
• Obligatoriedad de publicar evaluaciones de riesgo antes de desplegar cualquier sistema que supere cierto umbral de capacidad.
• Fondos públicos internacionales para investigar seguridad en IA, financiados con un porcentaje de los ganancias del sector.
• Cláusulas de apagado de emergencia: la exigencia legal de que cualquier modelo avanzado pueda ser desactivado de forma remota por una autoridad competente.
• Sanciones comerciales a países o empresas que se nieguen a someter sus sistemas a auditoría externa.

Acá va la confesión de rigor: mientras escribía esta nota le pedí a una IA que me sugiera cinco sinónimos de “volante”. Me devolvió opciones correctas, pero también una frase con un error conceptual que tuve que corregir a mano. Sirve como recordatorio de que la herramienta ayuda, todavía no piensa por nosotros. El día que lo haga sin supervisión, Hinton nos habrá advertido primero.

Mi consejo, en imperativo porque lo vale: no le delegues a un chatbot decisiones que no entendés del todo. Preguntale, cruzá la información con fuentes serias y, sobre todo, apoyá cualquier iniciativa seria que pida reglas claras para esta tecnología. La ventana para hacerlo se está cerrando, y nadie quiere enterarse de qué hay del otro lado cuando ya no haya ventana.