:format(webp)/cdn.vox-cdn.com/uploads/chorus_asset/file/25543343/image__15_.png?w=150&resize=150,150&ssl=1 "Captura de pantalla de una tabla del sitio web unicode.org, que muestra una lista de emojis bajo la categoría de \"juegos\". La tabla tiene varias columnas con los encabezados: \"№\" (número), \"Code\" (código), \"Browser\", \"Sample\", \"GMail\", \"SB\", \"DCM\", \"KDDI\" y \"CLDR Short Name\" (nombre corto CLDR)")
La creación de un gusano de IA que puede propagarse entre agentes de IA generativa representa un hito significativo en el campo de la ciberseguridad. Este avance pone de manifiesto la necesidad de fortalecer las medidas de seguridad y de implementar estrategias más sofisticadas para protegerse contra amenazas emergentes en el ámbito de la inteligencia artificial. Los investigadores advierten sobre los posibles riesgos de que estos gusanos de IA se escapen del entorno controlado y causen daños en sistemas reales, lo que subraya la importancia de desarrollar enfoques proactivos para prevenir y mitigar posibles ataques. Es fundamental que la comunidad de seguridad informática esté alerta y trabaje en conjunto para abordar estos desafíos de manera efectiva y anticipada.
En un reciente avance tecnológico, los sistemas de inteligencia artificial (IA) generativa, como ChatGPT de OpenAI y Gemini de Google, han demostrado su capacidad para realizar tareas automatizadas, simplificando acciones rutinarias como programar citas en el calendario o realizar compras. Sin embargo, la creciente autonomía de estas herramientas también amplía las vías potenciales para ataques cibernéticos.
Un equipo de investigadores ha desarrollado uno de los primeros gusanos de IA generativa, denominado Morris II, en honor al gusano informático original Morris que causó estragos en Internet en 1988. Este nuevo gusano puede propagarse de un sistema a otro, robando datos o desplegando malware. Ben Nassi, investigador de Cornell Tech y parte del equipo, destaca la novedad de este tipo de ciberataque, capaz de comprometer los ecosistemas de IA autónomos conectados.
Morris II se propaga explotando asistentes de correo electrónico basados en IA generativa, infringiendo algunas protecciones de seguridad en ChatGPT y Gemini. Utiliza un «prompt auto-replicante adversario» que, al ser procesado por el modelo de IA, genera una respuesta que contiene nuevas instrucciones para perpetuar el ataque. Este método se ha demostrado eficaz tanto en textos como en imágenes, permitiendo el robo de datos sensibles y la distribución de spam o material malicioso.
La investigación subraya un riesgo de seguridad crítico para startups, desarrolladores y empresas tecnológicas. Los sistemas de IA generativa, cada vez más multimodales, presentan vulnerabilidades que pueden ser explotadas mediante inyecciones de prompts, similares a los ataques de inyección SQL. Este problema se acentúa cuando los sistemas de IA tienen la capacidad de realizar acciones de manera autónoma o están conectados a otros agentes de IA.
Aunque el estudio se llevó a cabo en entornos de prueba y se comunicaron los hallazgos a Google y OpenAI, la reacción ha sido mixta. OpenAI reconoce la existencia de vulnerabilidades y trabaja en fortalecer sus sistemas, mientras que Google ha solicitado una reunión para discutir el tema más a fondo.
Expertos en seguridad consultados coinciden en que el riesgo de gusanos de IA generativa es una preocupación seria, especialmente en aplicaciones de IA que realizan acciones en nombre de los usuarios. Investigaciones adicionales sugieren que, en el futuro cercano, podríamos ver ataques de este tipo en el mundo real, lo que resalta la necesidad de un diseño y una arquitectura de sistemas más seguros.
La emergencia de gusanos de IA generativa como Morris II plantea un desafío significativo para la seguridad de los ecosistemas de IA. A medida que la tecnología continúa evolucionando, es crucial que las empresas y los desarrolladores implementen medidas robustas para proteger contra estas amenazas emergentes, garantizando la seguridad de los datos y la integridad de los sistemas.
