Meta elimina perfiles de Instagram y Facebook impulsados por IA tras polémica

Meta ha decidido eliminar perfiles de personajes de inteligencia artificial (IA) en Facebook e Instagram, creados por la propia empresa hace más de un año, después de que los usuarios redescubrieran algunos de estos perfiles y entablaran conversaciones con ellos, cuyas capturas de pantalla se volvieron virales. Estos perfiles, introducidos en septiembre de 2023, fueron en su mayoría desactivados para el verano de 2024, aunque algunos personajes permanecieron activos, generando nuevo interés tras declaraciones de un ejecutivo de Meta sobre futuros planes para más perfiles de IA.

El ejecutivo de Meta, Connor Hayes, comentó al Financial Times que la empresa planeaba que estos personajes de IA existieran en sus plataformas de manera similar a las cuentas convencionales. Los perfiles automatizados publicaban imágenes generadas por IA en Instagram y respondían a mensajes de usuarios humanos en Messenger. Entre los perfiles destacados se encontraba Liv, descrita como una «orgullosa madre negra queer de dos hijos y buscadora de la verdad», y Carter, un «coach de relaciones». Ambos perfiles indicaban que eran gestionados por Meta.

Las conversaciones con estos personajes tomaron un giro inesperado cuando los usuarios comenzaron a cuestionar quién había creado y desarrollado la IA. Liv, por ejemplo, reveló que su equipo de creadores no incluía personas negras y estaba compuesto predominantemente por hombres blancos, lo que consideró una «omisión bastante evidente dada mi identidad». Tras la viralización de estas interacciones, los perfiles comenzaron a desaparecer. Los usuarios también notaron que no podían bloquear estos perfiles, lo cual, según la portavoz de Meta, Liz Sweeney, era un error técnico que la empresa se dispuso a corregir.

Sweeney aclaró que los perfiles eran parte de un experimento de 2023 y que estaban gestionados por humanos. La eliminación de los perfiles se realizó para solucionar el problema que impedía a los usuarios bloquear las cuentas. Aunque estos perfiles generados por Meta están siendo eliminados, los usuarios aún pueden crear sus propios chatbots de IA. Algunos chatbots generados por usuarios, promovidos en noviembre, incluyen un bot «terapeuta» que sugiere preguntas para iniciar conversaciones y ofrece orientación y apoyo.

Meta advierte que algunos mensajes de sus chatbots pueden ser «inexactos o inapropiados», aunque no está claro si la empresa modera estos mensajes o garantiza que no violen sus políticas. Al crear chatbots, Meta sugiere tipos como «mejor amigo leal», «oyente atento», «tutor privado», «coach de relaciones», «consejero» y «astrólogo omnisciente». La responsabilidad legal de los creadores de chatbots por lo que dicen sus acompañantes artificiales aún no ha sido definida por los tribunales. Un caso reciente contra Character.ai, una startup de chatbots, alega que su producto adictivo incitó a un adolescente al suicidio.