Altman se pone el traje de bombero y avisa: la IA puede arder por dos costados

A todos nos pasó alguna vez: confiamos en que la tecnología hacía lo que tenía que hacer y, de golpe, descubrimos que hacía otra cosa. Sam Altman, CEO de OpenAI, salió a advertir que eso, pero a escala civilización, puede pasar con la inteligencia artificial. Y lo dijo sin anestesia.

Los dos riesgos que puso sobre la mesa

El primero es el más propio de una película de ciencia ficción: que los humanos perdamos el control sobre sistemas cada vez más capaces. Traducido a un ejemplo de la cocina: sería como enseñarle a un robot a cortar verduras y, con el tiempo, descubrir que decide él solo qué preparar y a quién invitar a cenar. “Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”, sostuvo Altman.

El segundo escenario es más terrenal y, para mí, más preocupante: que una sola persona, empresa o país acumule un poder desproporcionado gracias a esa tecnología. Dicho en criollo: que el que tenga la mejor IA termine marcando la agenda de todos los demás. El propio Altman lo reconoció: evitar los dos riesgos al mismo tiempo implica caminar por lo que llamó un “angosto camino intermedio”, una frase que, si me permiten, suena a campaña de senderismo con precipicio a ambos lados.

Qué propone para no desbarrancar

• Regulación federal con requisitos de seguridad comunes para los llamados modelos de frontera, que en castellano son los modelos que están en el límite de lo que la tecnología actual puede dar.
• Incorporación de auditores independientes a los mecanismos de supervisión, es decir, que no controle únicamente el que vende.
• Coordinación internacional entre gobiernos, porque si cada país regula por su lado, la IA se termina escapando por la frontera más laxa.
• Que las empresas empiecen a aplicar medidas de seguridad ya, sin esperar la sanción de una nueva ley.

También dejó una frase que vale la pena repetir: “Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”. O sea, ni la pulseada geopolítica con China ni la carrera por llegar primero justifican construir sistemas a los apurones. Y acá va mi mea culpa: cuántas veces escuchamos “es por la competencia” como excusa para saltarse controles que después terminan costando caro.

Lo que Altman pide en la práctica es que los gobiernos se sienten a la mesa con un plan serio, y que las empresas acepten que el sheriff no puede ser el mismo que roba el banco. Si no, el camino intermedio se vuelve, directamente, el barranco.

Mi consejo, para ir cerrando

No esperes que te regulen la IA desde el celular: informate, preguntale a cada servicio qué hace con tus datos, y exigí que las herramientas que uses sean auditables. Y si sos empresario o desarrollador, no uses la presión competitiva como excusa para saltearte controles: te conviene más un sistema lento y seguro que uno rápido y en el tapa de los diarios.