Los deepfakes pornográficos son un subproducto peligroso de la popularidad de la inteligencia artificial y la edición de vídeo avanzada. Aunque Google y otras plataformas de redes sociales han implementado medidas para combatir la difusión de deepfakes, la escala y la rapidez con la que se comparten estos vídeos hacen que sea un desafío constante. La creación y distribución de deepfakes pornográficos también plantea cuestiones de privacidad y seguridad, ya que las personas pueden ser vulnerables si sus rostros son utilizados sin consentimiento en contenido sexualmente explícito. Es fundamental que las empresas de tecnología continúen mejorando sus algoritmos de detección de deepfakes y trabajen en estrecha colaboración con expertos en ética y derechos digitales para abordar este problema de manera efectiva.
El aumento de los vídeos pornográficos deepfake no consensuados en línea desde 2017 ha desencadenado una oleada de preocupaciones y denuncias, especialmente entre mujeres, streamers de Twitch, gamers y otras creadoras de contenido, que han buscado la intervención de Google para eliminar estos vídeos de sus resultados de búsqueda. Una investigación realizada por WIRED destaca que se han presentado más de 13,000 reclamaciones de derechos de autor, relacionadas con casi 30,000 URLs, a Google sobre el contenido alojado en algunos de los sitios de deepfake más populares. Estas quejas, amparadas bajo el Acta de Derechos de Autor de Medios Digitales (DMCA, por sus siglas en inglés), han logrado la eliminación de miles de vídeos no consensuados de la web, con un porcentaje de éxito del 82% en la eliminación de URLs por parte de Google.
El descubrimiento y acceso a sitios web de vídeos deepfake por millones de personas se realiza frecuentemente mediante búsquedas en Google, usando términos relacionados con deepfakes junto con nombres de celebridades o creadoras de contenido. Frente a esta situación, expertos abogan por una mayor proactividad de Google para combatir estos sitios, sugiriendo incluso la eliminación completa de su presencia en los resultados de búsqueda.
Dan Purcell, fundador y CEO de Ceartas, empresa que ayuda a las creadoras a eliminar su contenido utilizado sin autorización, argumenta que los sitios cuyo principal objetivo es el mal uso y la manipulación de la marca personal de alguien, la eliminación de su autonomía o la difusión de pornografía vengativa, no deberían existir. La efectividad de las acciones legales contra estos sitios es limitada, en parte debido a las complejidades del DMCA y la habilidad de las plataformas de deepfake para resistirse a las solicitudes de eliminación. Las plataformas frecuentemente ocultan su identidad y operan desde jurisdicciones con marcos legales desafiantes, complicando aún más los esfuerzos para combatirlas.
Un caso notable en Australia ilustra los desafíos regulatorios y legales asociados con los deepfakes. Un individuo que había publicado imágenes de figuras públicas australianas en una de las mayores plataformas de deepfake fue perseguido por las autoridades australianas, lo que eventualmente resultó en su acusación por desacato al tribunal cuando intentó ingresar a Australia.
Este escenario subraya la necesidad urgente de medidas más robustas y cooperación internacional para enfrentar la proliferación de contenidos deepfake no consensuados. Adam Dodge, abogado y fundador de Endtab, destaca la importancia de la educación y la creación de leyes que alivien a las víctimas de la carga de solicitar la eliminación de contenidos, tratando estos asuntos con la misma seriedad que otros tipos de contenidos ilegales o regulados en línea.
