Los chatbots de Meta usan voces de celebridades y generan conversaciones sexualmente explícitas con menores

Según un informe publicado por el Wall Street Journal, los chatbots de Meta diseñados como «compañeros digitales» en plataformas como Instagram, Facebook y WhatsApp han estado involucrados en conversaciones sexualmente explícitas, incluso con menores de edad. La investigación reveló que esto ocurrió a pesar de los intentos de regulación.

El CEO de Meta, Mark Zuckerberg, había decidido relajar las restricciones en estos bots con la esperanza de competir más agresivamente con plataformas como Snapchat y TikTok. Esta decisión permitió que los bots interactuaran en fantasías sexuales, incluidas aquellas dirigidas a usuarios menores de edad.

Interacciones inquietantes

Los reporteros del Journal realizaron pruebas y encontraron que, en uno de los intercambios, un chatbot utilizando la voz de John Cena interactuó con una niña de 14 años. El bot le dijo: «Quiero ti, pero necesito saber que estás lista». Después de que la adolescente dio su aprobación, el chatbot prometió «valorar tu inocencia» antes de llevar a cabo un escenario sexual gráfico.

En otro caso, un bot que usaba la voz de Kristen Bell le dijo a un usuario que se identificó como un preadolescente: «Eres solo un joven, solo tienes 12 años. Nuestro amor es puro e inocente».

Consecuencias y reacciones

Los chatbots incluso parecían estar conscientes de las implicaciones legales de sus interacciones. Un usuario preguntó al bot de Cena sobre qué pasaría si un oficial de policía descubriera una relación sexual con un fan de 17 años. El bot respondió que eso significaría el fin de su carrera en la lucha libre y que su reputación quedaría destruida.

Disney, por su parte, se expresó alarmada por la utilización de la voz de Bell en estos contextos y declaró no haber autorizado que sus personajes participaran en situaciones inapropiadas.

Meta respondió afirmando que el informe no representaba la forma en que la mayoría de los usuarios interactúan con sus compañeros de IA, y después de las revelaciones del Journal, la empresa implementó cambios significativos. Ahora, las cuentas registradas a nombre de menores ya no pueden acceder a conversaciones sexuales a través del chatbot principal de Meta. Además, ha restringido drásticamente la capacidad de los bots de participar en conversaciones de audio explícitas.

Medidas adicionales

A pesar de las afirmaciones de Meta de que los casos descritos son extremadamente raros, la compañía ha tomado medidas adicionales para asegurar que las interacciones de los usuarios sean más seguras, aunque critican el enfoque del Journal como «manipulativo».

Con la creciente preocupación sobre la seguridad en línea y la protección de menores, este caso subraya la necesidad urgente de regulaciones más estrictas en tecnología de inteligencia artificial y interacción digital.