Distinguir entre lo real y lo artificial se ha vuelto crucial, especialmente con el auge de los deepfakes. Siwei Lyu, creador del DeepFake-o-meter en la Universidad de Buffalo, explica cómo identificar estas manipulaciones.
Existen herramientas comerciales y de investigación que ayudan a detectar deepfakes. Al subir un medio sospechoso, estos detectores proporcionan un porcentaje de probabilidad de que sea generado por IA. Sin embargo, los sentidos humanos y el conocimiento de ciertos indicios son igualmente valiosos. Las regulaciones sobre deepfakes, especialmente en contextos electorales, no han avanzado al ritmo de la tecnología, por lo que es esencial aprender a identificar si una imagen, audio o video es real.
El DeepFake-o-meter es una herramienta gratuita y de código abierto que integra más de una docena de algoritmos de distintos laboratorios de investigación. Permite a los usuarios subir medios para evaluar su autenticidad. Sin embargo, presenta tanto beneficios como limitaciones. Por ejemplo, al analizar varios deepfakes conocidos, los resultados variaron significativamente entre los distintos algoritmos.
Detección de audios falsos
Un caso destacado de deepfake en audio fue un robocall en New Hampshire con una voz generada por IA del presidente Joe Biden. Al analizarlo con el DeepFake-o-meter, los resultados variaron ampliamente. Los deepfakes de audio son difíciles de detectar porque se basan solo en la audición y son más fáciles de generar debido a la abundancia de ejemplos de voces públicas.
Para identificar audios generados por IA, hay que prestar atención a:
- Tono plano y falta de emoción.
- Ausencia de sonidos de respiración.
- Ruido de fondo inusual o excesivo.
Detección de fotos falsas
Al examinar fotos, es útil buscar inconsistencias como edificios torcidos o manos con más dedos de lo normal. Detalles como el cabello, las bocas y las sombras pueden revelar la falsedad. Las imágenes generadas por IA a menudo se ven demasiado brillantes o plásticas.
Un ejemplo fue una foto de Trump con votantes afroamericanos, donde los resultados del DeepFake-o-meter variaron y se observaron áreas inusuales alrededor del cuello y la barbilla de Trump, y dientes y dedos anormales en las personas.
Detección de videos falsos
Los videos son más difíciles de falsificar, especialmente los que presentan personas. Un deepfake del presidente ucraniano Volodymyr Zelenskiy pidiendo a sus fuerzas rendirse a Rusia mostró señales claras de manipulación, como parpadeos de ojos artificiales y bordes pixelados alrededor de la cabeza.
Lyu enfatiza la importancia de una colaboración humano-algoritmo para resolver el problema de los deepfakes. Las herramientas como el DeepFake-o-meter son útiles, pero la intervención humana sigue siendo crucial para el análisis detallado. Para aquellos interesados en una guía visual más completa sobre cómo detectar deepfakes, VideoProc ha publicado un artículo detallado sobre 10 maneras de identificar un deepfake, que incluye recomendaciones prácticas y ejemplos visuales para distinguir mejor estos engaños digitales. Aprender a identificar estos engaños visuales y auditivos nos prepara mejor para enfrentar la creciente sofisticación de las falsificaciones digitales.
