Este fenómeno, que afecta especialmente a las adolescentes, quienes suelen ser las principales víctimas de deepfakes con contenido sexual, ha provocado situaciones de acoso, humillación y daño emocional en las comunidades educativas. Los deepfakes son creados utilizando algoritmos de inteligencia artificial que pueden superponer el rostro de una persona en contenido pornográfico, sin su consentimiento.
El distrito escolar público de Westfield, situado en Nueva Jersey, ha sido el epicentro de un incidente perturbador que involucra la creación de imágenes explícitas falsas mediante el uso de software de inteligencia artificial (IA). Este acto, perpetrado por alumnos de décimo grado contra sus compañeras, ha encendido las alarmas sobre la necesidad de políticas escolares actualizadas y ha destacado los riesgos asociados con la disponibilidad de tecnología avanzada entre los estudiantes.
Este problema no es único de Westfield, ya que las escuelas de Estados Unidos se enfrentan al desafío emergente de los «deepfakes». Estas imágenes alteradas digitalmente pueden tener efectos devastadores en la salud mental y la seguridad de los jóvenes. El FBI ha advertido sobre la ilegalidad de distribuir material de abuso sexual infantil generado por computadora, incluidas las imágenes hiperrealistas de menores.
La reacción de las instituciones educativas varía. En Beverly Vista Middle School en California, los administradores actuaron rápidamente al contactar a la policía y expulsar a estudiantes involucrados en la creación y difusión de imágenes explícitas de compañeras de clase. En contraposición, en Westfield High School, la respuesta parece haber sido más moderada.
En Issaquah High School, cerca de Seattle, un detective de policía que investigaba quejas de los padres sobre imágenes explícitas generadas por IA de sus hijas de 14 y 15 años preguntó a un subdirector por qué la escuela no había informado del incidente a la policía. La funcionaria de la escuela preguntó “qué se suponía que debía informar”, lo que llevó al detective a informarle que las escuelas están obligadas por ley a informar sobre abusos sexuales, incluido el posible material de abuso sexual infantil. La escuela posteriormente informó del incidente a la policía.
El fenómeno de las imágenes generadas por IA, conocidas como “deepfakes” o “deepnudes”, puede tener consecuencias devastadoras. Los expertos en explotación sexual infantil advierten que el uso de imágenes generadas por IA sin consentimiento para acosar, humillar y acosar a las jóvenes puede dañar su salud mental, reputación y seguridad física, así como representar riesgos para sus perspectivas universitarias y profesionales.
