La plataforma de influencers Fanvue ha anunciado recientemente los resultados de su primer certamen «Miss IA», que evaluó a influencers generados por inteligencia artificial, sirviendo también como una estrategia publicitaria. La «ganadora» es una influencer ficticia de Instagram de Marruecos llamada Kenza Layli, con más de 200,000 seguidores. Sin embargo, el concurso ya está generando críticas por parte de mujeres en el ámbito de la inteligencia artificial.
La investigadora de Hugging Face, la Dra. Sasha Luccioni, comentó a Ars Technica: «Otro paso más en la cosificación de las mujeres con IA. Como mujer en este campo, no me sorprende, pero sí me decepciona».
El uso de influencers generados por IA en Instagram ha aumentado, gracias a herramientas de síntesis de imágenes como Stable Diffusion, que facilitan la creación de imágenes provocativas de mujeres. Además, técnicas como Dreambooth permiten ajustar un modelo de IA para representar a un sujeto específico en diversos contextos.
Desde su aparición en 2022, esta tecnología ha sido criticada, y no es sorprendente que se vea el concurso «Miss IA» como un precedente desafortunado que cosifica a las mujeres. «En un campo con una evidente falta de diversidad de género, no sorprende que se utilicen imágenes generadas por IA de mujeres ideales», añadió Luccioni.
El concurso, parte de los «World AI Creator Awards» (WAICAS), parece diseñado para generar publicidad, incluso a través de críticas. Un aspecto relevante es que el engaño generado por IA ha permeado tanto la cultura que medios como CNN parecen referirse a imágenes de personas falsas como si fueran reales.
En un artículo de CNN titulado «La primera Miss IA ha sido coronada — y es una influencer de estilo de vida marroquí», la periodista de moda Jacqui Palumbo escribe: «Conozcan a Kenza Layli, una influencer de estilo de vida marroquí que espera traer ‘diversidad e inclusión’ al paisaje de creadores de IA. Con casi 200,000 seguidores en Instagram y otros 45,000 en TikTok, Layli es completamente generada por IA, desde sus imágenes hasta sus subtítulos y discurso de aceptación lleno de palabras de moda».
Por supuesto, es imposible conocer a Layli—no es real. Layli es creación de Myriam Bessa, fundadora de la agencia Phoenix AI, quien recibirá un premio de $5,000 por su creación. CNN cita un discurso de aceptación de Layli en vídeo que parece de una persona real con un rostro generado por IA: «A medida que avanzamos, estoy comprometida a promover la diversidad y la inclusión en el campo, asegurando que todos tengan un lugar en la mesa del progreso tecnológico». El discurso tiene poco significado, supuestamente pronunciado por un software o escrito por su creadora humana.
El concurso «Miss IA» también incluyó a las ganadoras del segundo y tercer lugar: Lalina, creada en Francia, y Olivia C, creada en Portugal. Un vistazo rápido a sus perfiles de Instagram muestra imágenes de las mujeres virtuales en bikini en entornos exóticos y artísticos. Un panel de cuatro jueces, dos de los cuales parecen generados por IA, decidieron las ganadoras.
Confusamente, las reglas del concurso parecen confundir personajes ficticios con sus creadores, indicando que los participantes fueron evaluados en tres criterios: belleza (incluyendo estándares de certámenes de belleza como «porte» y respuestas a preguntas como «Si pudieras tener un sueño para mejorar el mundo, ¿cuál sería?»), tecnología (puntos por habilidad en implementar el modelo de IA y detalles visuales), y presencia social (basado en seguidores y engagement en redes sociales).
Al preguntarle a la investigadora de ética en IA, la Dra. Margaret Mitchell (también de Hugging Face), sus pensamientos sobre el concurso, respondió con una serie de preguntas reflejando similar confusión. «¿Esto pretendía empoderar a los creadores de IA? Pero entonces, ¿la ganadora fue generada por IA? ¿Son creadores o personas generadas por IA? ¿O solo ‘Kenza’ es generada por IA, y ganó, pero los otros no? ¿Qué está pasando?»
Al señalarle el artículo mencionado de CNN, Mitchell respondió: «Entiendo. El certamen es para mujeres generadas por IA, pero el sitio web de WAICAS parece más centrado en empoderar a los creadores que en lo que realmente hace, que es reafirmar estándares de belleza irreales».
Para Mitchell, la tendencia de influencers de IA parece acelerar problemas ya existentes con influencers humanos: la libertad de manipular imágenes para presentar una visión irreal de la realidad que podría impactar negativamente en niñas y mujeres.
«Me estremezco al pensar en el daño que esto causará a la autoimagen de las niñas», dijo Mitchell. «Barbie ya creó suficientes problemas, y eso ni siquiera está diseñado para parecer una persona real. Cuando se recompensan estándares de feminidad irreales, las chicas al convertirse en mujeres se miran en el espejo y ven todas las formas en que no se ajustan. Lo siguiente: Aumento masivo de productos para la piel dudosos, trastornos alimentarios y dismorfia corporal entre adolescentes».
