Microsoft advierte que la IA agéntica de Windows 11 podría instalar malware en tu PC

Microsoft ha emitido una importante advertencia sobre las próximas capacidades de IA agéntica que llegarán pronto a Windows 11. En un nuevo documento de soporte, la compañía advierte que los usuarios deberían «solo habilitar esta función si entienden las implicaciones de seguridad», y ha confirmado que debido a los peligros potenciales, estará deshabilitada por defecto.

Durante meses, Microsoft ha insinuado que Windows 11 evolucionaría lentamente hacia un sistema operativo agéntico, para disgusto de muchos usuarios en línea. Sin embargo, la compañía ha seguido adelante con su visión, y ahora estamos en un punto donde las primeras capacidades verdaderamente agénticas se están lanzando en la plataforma.

Acceso administrativo y cuentas de usuario para agentes de IA

«Esta configuración solo puede ser habilitada por un usuario administrador del dispositivo y una vez habilitada, se activa para todos los usuarios del dispositivo, incluyendo otros administradores y usuarios estándar», confirma Microsoft. Cuando se habilita, Windows creará cuentas de usuario locales para diferentes agentes de IA, que tendrán acceso a tu carpeta de usuario personal.

«Las cuentas agénticas tienen acceso limitado a tu directorio de perfil de usuario (C:\Users\username) mientras operan en el espacio de trabajo del agente. Si un agente necesita acceso a archivos en ese directorio, Windows otorga acceso de lectura y escritura a las siguientes carpetas conocidas: Documentos, Descargas, Escritorio, Videos, Imágenes, Música cuando la configuración está habilitada.»

Los riesgos de seguridad: XPIA y malware

Ayer, Microsoft publicó un documento de soporte que describía cómo los agentes de IA van a funcionar en Windows 11, utilizando un nuevo espacio de trabajo agéntico que permitirá a las aplicaciones potenciadas por IA completar tareas en tu nombre. Estos agentes operarán en su propio entorno de escritorio seguro, pero con acceso a tus aplicaciones y archivos.

Como tal, la compañía advierte que estas capacidades agénticas no están exentas de riesgos. «Las aplicaciones de IA introducen riesgos de seguridad novedosos, como la inyección cruzada de prompts (XPIA), donde contenido malicioso incrustado en elementos de UI o documentos puede anular las instrucciones del agente, llevando a acciones no deseadas como exfiltración de datos o instalación de malware.»

Principios de diseño y salvaguardas

Debido a esto, la compañía ha delineado una serie de principios de diseño que quiere seguir cuando se trata de experiencias agénticas en Windows, incluyendo asegurar que la IA siempre sea observable, y que cualquier decisión que quiera tomar debe ser aprobada por un humano primero. «Los agentes deben ser capaces de producir registros que describan sus actividades. Windows debería ser capaz de verificar estas acciones con un registro de auditoría a prueba de manipulaciones.»

La compañía dice que las primeras compilaciones de vista previa de Windows 11 con capacidades agénticas se están distribuyendo a los Insiders desde ayer, aunque actualmente no hay aplicaciones de IA que lo soporten. Microsoft ya ha confirmado que Copilot pronto podrá utilizar espacios de trabajo agénticos en Windows 11, y se espera que otras aplicaciones de IA le sigan.

El futuro agéntico de Windows

La era de Windows como un sistema operativo agéntico está aquí, nos guste o no. Microsoft continúa avanzando con su visión de transformar Windows 11 en una plataforma donde los agentes de IA puedan realizar tareas complejas de manera autónoma, aunque con las necesarias precauciones de seguridad.

Los usuarios que estén interesados en probar estas nuevas capacidades deberán considerar cuidadosamente los riesgos de seguridad involucrados, especialmente considerando que los agentes tendrán acceso significativo a archivos y aplicaciones del sistema.