Las leyes de seguridad online silencian a la gente común mientras empresas como xAI causan daño real
En la fascinante y contradictoria nueva realidad de internet, las adolescentes no pueden aprender sobre la menstruación en Reddit y los artistas independientes tienen prohibido vender juegos eróticos en Itch.io, pero un contratista militar te ofrece deepfakes no consensuados de Taylor Swift por 30 dólares al mes.
El pasado martes, xAI —la empresa de inteligencia artificial de Elon Musk— lanzó un generador de imágenes y vídeos llamado Grok Imagine, que incluye un modo “picante” con resultados que van desde gestos sugerentes hasta desnudez completa. Al no incorporar barreras visibles contra la creación de imágenes de personas reales, el servicio permite generar pornografía softcore de cualquier figura pública lo suficientemente conocida como para que el sistema pueda recrearla. En la práctica, parece producir sobre todo contenido altamente NSFW centrado en mujeres. Musk presumió de que, en las primeras 24 horas desde su lanzamiento, se generaron más de 34 millones de imágenes. Con ello, xAI ha dejado claro que puede ignorar la presión para mantener fuera el contenido adulto mientras ofrece a los usuarios la posibilidad de crear material ampliamente repudiado, amparándose en vacíos legales y en un poder político que ninguna otra compañía posee.
Contradicciones en la regulación online
La nueva función de vídeo de Grok, que se presentó casi al mismo tiempo que un chatbot de compañía romántica llamado Valentine, resulta especialmente llamativa porque llega en un momento en que el sexo —incluso la propia palabra— está siendo arrinconado en internet. A finales del mes pasado, el Reino Unido comenzó a aplicar normas de verificación de edad que obligan a X y a otras plataformas a bloquear contenidos sexuales o “dañinos” para menores de 18 años. Por la misma época, el grupo activista Collective Shout presionó con éxito a Steam e Itch.io para que restringieran la venta de juegos para adultos y otros medios, lo que llevó a Itch.io a eliminar de forma masiva cualquier contenido clasificado como NSFW.
El porno deepfake de personas reales es una forma de imagen íntima no consensual, y su publicación intencionada es ilegal en Estados Unidos bajo la Take It Down Act, firmada a principios de este año por el presidente Donald Trump. En un comunicado emitido el jueves, la Red Nacional contra la Violación, el Abuso y el Incesto (RAINN) calificó la función de Grok como “parte de un problema creciente de abuso sexual basado en imágenes” y señaló irónicamente que Grok “claramente no recibió el aviso” sobre la nueva ley.
Sin embargo, según Mary Anne Franks, profesora de la Facultad de Derecho de la Universidad George Washington y presidenta de la organización sin ánimo de lucro Cyber Civil Rights Initiative (CCRI), existe “poco riesgo de que Grok enfrente algún tipo de responsabilidad” bajo esta normativa. La disposición penal exige “publicación” —un término no definido en la ley, pero que se interpreta como poner el contenido a disposición de más de una persona—, y si Grok solo muestra el material al usuario que lo crea, podría no considerarse suficiente para sancionarlo.
Vacíos legales y falta de aplicación
Grok tampoco estaría obligado a retirar las imágenes en virtud de la cláusula de eliminación de la Take It Down Act, a pesar de que esta disposición es tan amplia que podría amenazar a la mayoría de redes sociales. “No creo que Grok —o al menos esta herramienta en concreto— encaje en la definición de ‘plataforma cubierta’, que se refiere principalmente a servicios cuyo fin es ofrecer un foro para contenido generado por usuarios”, explica Franks. “El contenido generado por IA puede partir de indicaciones humanas, pero el resultado final lo produce la propia inteligencia artificial.”
Este matiz hace que la ley no impida que Grok facilite la creación masiva de este tipo de material ni que, en determinadas circunstancias, llegue a publicarlo. La CCRI ya había señalado meses atrás que esta definición limitada de “plataforma cubierta” deja sin protección a muchas víctimas y, al mismo tiempo, pone en riesgo a servicios que actúan de buena fe. Franks incluso sugirió en junio que, debido a lagunas legales, Grok podría publicar imágenes modificadas de forma lasciva de personas reales sin incumplir la norma.
Estas deficiencias reflejan un patrón constante en la regulación de internet, supuestamente orientada a frenar contenidos dañinos o inapropiados. Así, el mandato británico ha dificultado la gestión de foros independientes sin impedir que menores burlen las restricciones.
En Estados Unidos, la situación se agrava por la falta de acciones regulatorias efectivas contra grandes empresas, incluso cuando incumplen la ley. Las compañías de Musk han recibido un trato indulgente durante el mandato de Trump, y pese a haber dejado formalmente su cargo en el Departamento de Eficiencia Gubernamental, Musk sigue teniendo una gran influencia sobre organismos como la FTC. Además, xAI ha conseguido recientemente un contrato con el Departamento de Defensa por un valor de hasta 200 millones de dólares. Por tanto, incluso si xAI estuviera violando la Take It Down Act, es poco probable que se investigue.
El poder como árbitro de lo aceptable
Más allá de los gobiernos, existen capas de control ejercidas por empresas que deciden qué es aceptable en las plataformas, y que a menudo mantienen una postura restrictiva hacia el contenido sexual. Apple, por ejemplo, ha presionado a Discord, Reddit, Tumblr y otras para que censuren material NSFW, con resultados variables. Steam e Itch.io revisaron su política de contenido adulto bajo la amenaza de perder el acceso a procesadores de pago y bancos, que anteriormente habían actuado contra plataformas como OnlyFans o Pornhub.
En casos como el de Pornhub, estas presiones derivaron de la presencia de material claramente ilegal y dañino. Sin embargo, Apple y las entidades financieras no parecen aplicar sus políticas de forma uniforme, sino que lo hacen según la presión pública y el poder de la empresa afectada. Pese a sus enfrentamientos con Trump, Musk sigue siendo una de las figuras con mayor influencia política en el sector tecnológico. Apple y Musk han tenido roces sobre políticas de la App Store, pero la compañía de Cupertino ha cedido en ocasiones menores, como el restablecimiento de su publicidad en X tras retirarla por la proliferación de contenido extremista.
Apple ha llegado a prohibir aplicaciones pequeñas por generar desnudos de personas reales mediante IA. Falta por ver si ejercerá la misma presión sobre Grok, cuyo servicio de vídeo se ha lanzado en exclusiva para iOS. Apple no respondió a las solicitudes de comentario.
La promesa hueca de un internet “más seguro”
La función “picante” de Grok es potencialmente dañina para las personas que ahora pueden ser objeto de desnudos no consensuales generados por IA en un servicio de gran alcance. Al mismo tiempo, pone en evidencia lo vacía que puede resultar la promesa de un internet “más seguro”. Mientras las plataformas pequeñas reciben presiones para eliminar grabaciones consensuadas o ficción erótica creada por humanos, una empresa dirigida por un multimillonario puede lucrarse con un producto que, en ciertas circunstancias, es directamente ilegal.
En 2025, en internet, nada trata realmente sobre el sexo, ni siquiera el sexo. Como siempre, la cuestión de fondo es el poder.
