La inteligencia artificial puede evadir medidas de bioseguridad para crear ADN dañino

Un nuevo estudio revela que los sistemas de IA pueden reformular códigos genéticos de proteínas tóxicas para evadir los controles de seguridad que utilizan las empresas fabricantes de ADN a nivel mundial.

Las herramientas de IA pueden «parafrasear» códigos genéticos mortales

Las principales empresas biotecnológicas que fabrican ADN personalizado para científicos tienen protecciones implementadas para mantener material biológico peligroso fuera del alcance de posibles malintencionados. Examinan sus pedidos para detectar a cualquiera que trate de comprar genes de viruela o ántrax, por ejemplo.

Sin embargo, un nuevo estudio publicado en la revista Science ha demostrado cómo la IA podría usarse para eludir fácilmente esos procesos de bioseguridad.

Un equipo de investigadores de IA descubrió que las herramientas de diseño de proteínas podrían utilizarse para «parafrasear» los códigos de ADN de proteínas tóxicas, «reescribiéndolos de maneras que podrían preservar su estructura, y potencialmente su función», explica Eric Horvitz, director científico de Microsoft.

Más de 75,000 variantes peligrosas pasaron desapercibidas

Los científicos informáticos utilizaron un programa de IA para generar códigos de ADN para más de 75,000 variantes de proteínas peligrosas, y los sistemas de seguridad utilizados por los fabricantes de ADN no pudieron detectarlas consistentemente.

«Para nuestra preocupación», dice Horvitz, «estas secuencias reformuladas evadieron los sistemas de detección de bioseguridad utilizados mundialmente por las empresas de síntesis de ADN para marcar pedidos peligrosos».

Aunque se escribió rápidamente una solución y se implementó en el software de detección de bioseguridad, no es perfecta: aún no pudo detectar una pequeña fracción de las variantes.

Los peligros de la ciencia abierta

«El diseño de proteínas impulsado por IA es una de las fronteras más emocionantes de la ciencia. Ya estamos viendo avances en medicina y salud pública», dice Horvitz. «Sin embargo, como muchas tecnologías poderosas, estas mismas herramientas a menudo pueden ser mal utilizadas».

Durante años, los biólogos han estado preocupados de que sus herramientas de ADN cada vez más mejoradas puedan ser aprovechadas para diseñar bioamenazas potentes, como virus más virulentos o toxinas fáciles de propagar.

Precedentes preocupantes en IA biológica

Este no es el primer caso en que los científicos exploran el potencial uso malévolo de la IA en un entorno biológico.

Por ejemplo, hace unos años, otro equipo se preguntó si la IA podría usarse para generar moléculas novedosas que tuvieran las mismas propiedades que los agentes nerviosos. En menos de seis horas, la herramienta de IA produjo obedientemente 40,000 moléculas que cumplían con los criterios solicitados.

No solo desarrolló agentes de guerra química conocidos como el notorio llamado VX, sino que también diseñó muchas moléculas desconocidas que parecían plausibles y se predecía que eran más tóxicas.

Medidas de control de información

Los investigadores y la revista que publicó este nuevo estudio decidieron retener parte de su información y restringir quién obtiene acceso a sus datos y software. Contrataron a un tercero, una organización sin fines de lucro llamada International Biosecurity and Biosafety Initiative for Science, para tomar decisiones sobre quién tiene una necesidad legítima de saber.

«Esta es la primera vez que se emplea tal modelo para gestionar los riesgos de compartir información peligrosa en una publicación científica», dice Horvitz.

Perspectivas de los expertos

Arturo Casadevall, microbiólogo e inmunólogo de la Universidad Johns Hopkins, elogió este trabajo: «Mi reacción general fue favorable. Aquí tenemos un sistema en el que estamos identificando vulnerabilidades. Y lo que estás viendo es un intento de corregir las vulnerabilidades conocidas».

Sin embargo, Casadevall señala un problema importante: «¿qué vulnerabilidades no conocemos que requerirán correcciones futuras?»

También observa que este equipo no realizó ningún trabajo de laboratorio para generar realmente ninguna de las proteínas diseñadas por IA, para ver si realmente imitarían la actividad de las amenazas biológicas originales.

La industria mantiene el optimismo

A pesar de estas preocupaciones, algunos expertos en bioseguridad ven razones para estar tranquilos.

James Diggans, jefe de política y bioseguridad en Twist Bioscience y presidente de la junta directiva del International Gene Synthesis Consortium, señala que en los últimos diez años, su empresa ha tenido que referir pedidos a las autoridades menos de cinco veces.

«Esto es algo increíblemente raro», dice. «En el mundo de la ciberseguridad, tienes una gran cantidad de actores que intentan acceder a sistemas. Ese no es el caso en biotecnología. El número real de personas que realmente intentan crear mal uso puede estar muy cerca de cero».

El desafío del «tren de carga» de la IA

David Relman, investigador de la Universidad Stanford, considera que este último estudio es loable, pero ilustra un problema enorme que se está gestando.

«Creo que nos deja colgando y preguntándonos: ‘¿Exactamente qué se supone que debemos hacer?'», dice. «¿Cómo nos adelantamos a un tren de carga que está acelerando cada vez más y corriendo por las vías, en peligro de descarrilar?»

Esta investigación subraya la urgente necesidad de desarrollar salvaguardias más robustas mientras la tecnología de IA continúa avanzando a un ritmo acelerado en el campo de la biotecnología.