El MI5 mira a la IA y ve un manual de bioterrorismo al alcance de cualquiera

A esta altura, todos tenemos la sospecha de que la inteligencia artificial algún día nos iba a arruinar algo. Y no hablo de que ChatGPT me escriba mejor el resumen del domingo. Hablo de que, según el MI5, el servicio de inteligencia británico, ahora cualquiera con un celular y un chatbot puede sentarse a investigar cómo fabricar armas biológicas. Sí, leyó bien: la misma tecnología que lo ayuda a uno a redactar un mail corporativo también puede servirle a un terrorista para aprender a soltar un patógeno.

Ken McCallum, director general del MI5, lo dijo sin demasiados rodeos al presentar su análisis anual de amenazas: la IA ya está amplificando las capacidades de grupos terroristas y organizaciones delictivas para acceder a conocimientos científicos complejos. Y puso un ejemplo que suena a pesadilla: actores maliciosos podrían usar estas herramientas para desarrollar armas biológicas o aprender a liberar agentes patógenos. Básicamente, el sueño húmedo de cualquier villano de película, ahora con tutorial en pantalla.

“La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores.”Ken McCallum, director general del MI5

Un nuevo centro para medir el peligro

La advertencia no quedó en el aire. El MI5 anunció la creación de un Centro de Evaluación de Amenazas de IA, una especie de laboratorio interno donde se estudiarán tanto los riesgos como las oportunidades de esta tecnología. La sigla IA, para los que vienen llegando, es lo mismo que decir Inteligencia Artificial: o sea, programas que aprenden solos, como ese horno nuevo que usted todavía no sabe programar pero que ya está cocinando sin pedir permiso.

McCallum reconoció que buena parte de su agenda diaria se la lleva pensar cómo anticiparse a los cambios tecnológicos. Y acá hago una confesión: uno, como periodista, también se siente un poco perdido cuando la tecnología avanza más rápido que la capacidad de explicarla. Pero los datos son los datos: la combinación de herramientas de IA cada vez más accesibles con información científica sensible disponible en internet es, para los servicios de inteligencia, una mezcla bastante incómoda.

• Capacitación sin filtro: cualquier usuario puede aprender temas complejos en minutos.
• Información abierta y sensible: papers y datos científicos viven en la web pública.
• Velocidad de adopción: la IA se actualiza más rápido que cualquier regulación.
• Falta de filtros específicos: los modelos no distinguen entre un estudiante curioso y un atacante.
• Doble uso: la misma herramienta sirve para la cura y para el veneno.

Dicho esto, y aunque la advertencia es seria, conviene no caer en el pánico. McCallum también dejó claro que la IA trae oportunidades, y que el objetivo del MI5 es llegar a la vanguardia de esos cambios antes de que los riesgos se materialicen. O sea: el problema no es la tecnología en sí, sino quién la usa, cómo y para qué. Y eso, créame, depende más de nosotros que de los servidores de Silicon Valley.

Mi consejo

No comparta papers sensibles en chats con inteligencia artificial, no asuma que una herramienta gratuita es neutral, y si trabaja en áreas críticas de ciencia o salud, extreme los controles de quién accede a su información. La pelota está en nuestra cancha: regulators, empresas y usuarios, todos a la vez.

La pregunta que queda flotando es inevitable: ¿qué medidas deberían tomar los gobiernos para regular el acceso a información sensible en sistemas de inteligencia artificial? Porque, como quedó claro, McCallum y compañía no van a esperar a que la respuesta llegue sola.