La tecnología de deepfake ha avanzado significativamente, y el nuevo sistema de inteligencia artificial de ByteDance, OmniHuman-1, está a la vanguardia de esta evolución. Este sistema es capaz de generar vídeos deepfake con un nivel de realismo sin precedentes, superando las limitaciones que tradicionalmente han caracterizado a estas creaciones. A diferencia de otros deepfakes que suelen delatar su origen artificial, OmniHuman-1 logra una representación más convincente, al menos en las muestras seleccionadas que el equipo de ByteDance ha compartido.
OmniHuman-1 se distingue por su capacidad para crear vídeos a partir de una sola imagen de referencia y un archivo de audio, ya sea un discurso o una canción. La longitud del clip generado es arbitraria, y el sistema permite ajustar el aspecto y las proporciones del cuerpo del sujeto en el vídeo. Entrenado con 19,000 horas de contenido de vídeo de fuentes no reveladas, OmniHuman-1 también puede editar vídeos existentes, modificando incluso los movimientos de las extremidades de una persona, lo que resulta en un producto final sorprendentemente realista.
El impacto potencial de OmniHuman-1 es significativo, especialmente considerando el contexto actual en el que los deepfakes se están utilizando cada vez más para fines engañosos. En 2023, los deepfakes políticos se difundieron rápidamente, como se vio en Taiwán y Moldavia, donde se utilizaron para manipular la opinión pública. Además, los deepfakes se están empleando en fraudes financieros, engañando a consumidores y empresas con imitaciones de celebridades y ejecutivos. Según Deloitte, el contenido generado por IA contribuyó a más de 12 mil millones de dólares en pérdidas por fraude en 2023, y se espera que esta cifra alcance los 40 mil millones en EE. UU. para 2027.
La creciente preocupación por los deepfakes ha llevado a la comunidad de inteligencia artificial a abogar por una regulación más estricta. Aunque en Estados Unidos no existe una ley federal que criminalice los deepfakes, más de diez estados han promulgado leyes contra la suplantación asistida por IA. Sin embargo, detectar deepfakes sigue siendo un desafío, y a pesar de los esfuerzos de algunas redes sociales y motores de búsqueda para limitar su difusión, el volumen de contenido deepfake en línea continúa aumentando rápidamente. Una encuesta de mayo de 2024 de la firma de verificación de identidad Jumio reveló que el 60% de las personas encontraron un deepfake en el último año, y el 72% expresó preocupación por ser engañados diariamente por estos vídeos.
