La advertencia del MI5 que pone en alerta al mundo: la inteligencia artificial como aliada inesperada del terrorismo biológico

Me crucé con esta noticia una mañana cualquiera, mientras el café todavía estaba demasiado caliente como para tomarlo de un trago, y lo primero que me vino a la cabeza fue la imagen de esos pasillos interminables de Thames House, la sede del MI5 en Londres, donde un señor de traje gris debe mirar pantallas con gráficos que parecen sacados de una película de espías. Pero la advertencia que acaba de lanzar Ken McCallum, el director general del servicio de inteligencia británico, no tiene nada de ciencia ficción: es una alerta concreta, documentada, que atraviesa el corazón de uno de los debates más urgentes de nuestro tiempo, el del uso malicioso de la inteligencia artificial para fines que rozan lo peor de la condición humana.

Lo que McCallum puso sobre la mesa en su análisis anual de amenazas es, si se lo piensa un rato, bastante estremecedor. Dijo, con la calma de quien está acostumbrado a hablar de cosas graves, que la inteligencia artificial está ampliando las capacidades de grupos terroristas y organizaciones criminales para acceder a conocimientos científicos avanzados. Y cuando hablamos de conocimientos científicos avanzados en este contexto, no nos referimos a armar un robotito en el garage: hablamos de información sobre cómo desarrollar armas biológicas o cómo liberar agentes patógenos, ese tipo de saberes que deberían vivir detrás de mil candados y que, según advierte el propio jefe del espionaje británico, podrían estar al alcance de cualquiera con una conexión a internet y la voluntad de hacer daño.

Una frase que resume el dilema de toda una era

“La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores.”Ken McCallum, director general del MI5

Esa frase, corta y contundente, es la radiografía perfecta de un momento histórico en el que la misma herramienta que permite a un investigador encontrar la cura de una enfermedad en tiempo récord puede, en manos equivocadas, convertirse en un manual de instrucciones para el desastre. McCallum lo sabe, lo dice, y por eso su organismo acaba de anunciar la creación de un Centro de Evaluación de Amenazas de IA, una especie de observatorio interno que se va a dedicar a estudiar con lupa tanto los riesgos como las oportunidades que trae aparejada esta tecnología, siempre con la lupa puesta en su impacto sobre la seguridad nacional.

• El MI5 creará un Centro de Evaluación de Amenazas de IA, dedicado a estudiar riesgos y oportunidades de la tecnología en materia de seguridad.
• La preocupación central es que la IA facilite el acceso a información científica sensible sobre armas biológicas y agentes patógenos.
• La accesibilidad creciente de estas herramientas para usuarios sin formación técnica especializada es el corazón del problema.
• McCallum advirtió que una parte significativa de su trabajo se enfoca en anticiparse a los cambios tecnológicos y encontrar un equilibrio entre beneficios y daños potenciales.

Cuando uno se detiene a leer entre líneas lo que dijo McCallum, aparece un dato que a mí, particularmente, me dejó pensando: la velocidad con la que las herramientas de inteligencia artificial se están democratizando es impresionante, pero también profundamente preocupante, porque no hace falta ser científico ni tener un laboratorio para acceder a cierto tipo de información que antes vivía recluida en papers académicos o en servidores ultra protegidos. Cualquiera, desde su casa, con una notebook y un buen prompt, puede llegar a información que en otro momento hubiera requerido años de estudio, contactos específicos o, directamente, robar el documento. Y eso, señoras y señores, cambia las reglas del juego de una manera que todavía no terminamos de dimensionar.

El equilibrio que hay que encontrar antes de que sea tarde

Lo que me gusta destacar, en medio de tanto ruido apocalíptico, es que el director del MI5 no planteó la cuestión desde el pánico ni desde la prohibición, sino desde algo mucho más razonable: la idea de que hay que pararse en la vanguardia de los cambios tecnológicos antes de que los riesgos se materialicen. Es una postura conciliadora, casi diría sabia, porque reconoce que la inteligencia artificial trae cosas buenas y cosas malas, y que la tarea de los organismos de inteligencia no es demonizar la herramienta sino aprender a convivir con ella sin que se nos vaya de las manos. McCallum contó que dedica una parte significativa de su jornada a evaluar justamente eso, cómo anticiparse a los cambios sin perder de vista los enormes beneficios que la IA puede aportar a la sociedad.

Ahora bien, a mí lo que más me interpela de todo esto, y se lo dejo como pregunta abierta porque me parece que vale la pena que la pensemos en voz alta, es qué deberían hacer los gobiernos para regular el acceso a información sensible en sistemas de inteligencia artificial. Porque no se trata de apagar la IA, sería una locura y además sería imposible, sino de encontrar mecanismos inteligentes, acordados internacionalmente, que pongan límites claros sin ahogar la innovación. Y eso, créanme, no es un debate menor: es probablemente uno de los desafíos más grandes que enfrenta la humanidad en este siglo. Mientras tanto, les recomiendo seguir de cerca lo que vaya surgiendo de ese flamante centro del MI5, porque lo que se decida en Londres en los próximos meses seguramente va a marcar el rumbo de cómo el resto del mundo encare este tema que, les guste o no, nos involucra a todos.