Adobe tiene una nueva herramienta para proteger a los artistas de la IA generativa

Adobe ha anunciado la expansión de sus «etiquetas de contenido», conocidas como Content Credentials, con el objetivo de facilitar a los creativos el reconocimiento de sus trabajos, identificar qué contenido es generado por IA y proteger su obra de manera efectiva. Para ello, lanzará una aplicación web gratuita que permitirá a los usuarios añadir rápidamente la información del creador a imágenes, vídeos y archivos de audio, y optar por excluir su contenido del entrenamiento de modelos de IA generativa, siempre y cuando los desarrolladores de IA lo permitan.

Captura de pantalla de una página de red social con la función de "Adobe Content Authenticity" activada. En la imagen, se muestra una publicación de una usuaria llamada Jane Smith con el comentario "Snowy pyramids?!" y una imagen debajo. En la esquina superior derecha, aparece un panel desplegable de Adobe que muestra los detalles de autenticidad del contenido, indicando que la imagen fue emitida por Adobe Inc. el 1 de septiembre de 2024. El texto en la parte superior de la imagen dice: "View Content Credentials anywhere".

La nueva aplicación web centralizará el uso de las Content Credentials, las cuales son metadatos que certifican la autoría y el origen de una creación, incluyendo si se ha utilizado inteligencia artificial en su elaboración. Esta herramienta permitirá a los creadores asociar información como su nombre, sitio web o redes sociales a su contenido, además de facilitar la exclusión masiva de sus trabajos de bases de datos de entrenamiento de IA, algo que hasta ahora requería acciones individuales para cada proveedor de IA. Además, la plataforma será compatible con Adobe Firefly y otras herramientas de Creative Cloud como Photoshop y Lightroom, y permitirá aplicar las Content Credentials no solo a archivos creados con Adobe, sino a cualquier imagen, vídeo o audio.

La app también ofrece la posibilidad de establecer preferencias para proteger las obras de ser utilizadas o entrenadas por IA. Aunque los modelos de Adobe solo se entrenan con contenido con licencia o de dominio público, esta protección está diseñada para aplicarse a modelos de IA de otras compañías. De momento, Spawning, la startup creadora de la herramienta «Have I Been Trained?», es la única que ha mostrado su apoyo a esta función, pero Adobe afirma estar trabajando para que más empresas adopten esta preferencia, esperando que gigantes como OpenAI o Google se unan a la iniciativa.

Las etiquetas de atribución y las preferencias de uso para IA serán difíciles de eliminar, ya que Adobe asegura que la información vinculada a las Content Credentials puede ser restaurada mediante técnicas de huellas digitales, marcas de agua invisibles y metadatos criptográficos, incluso si alguien toma una captura de pantalla del contenido protegido. Aunque no es un sistema infalible, complica considerablemente los intentos de evadir estas protecciones.

Adobe también está facilitando la verificación de estas credenciales en plataformas que no muestran esta información de manera transparente, como las etiquetas de «AI Info» de Meta. La aplicación web incluirá una herramienta de inspección para recuperar y mostrar el historial de edición y las credenciales disponibles. Además, Adobe lanzará una extensión para Google Chrome, actualmente en versión beta, que permitirá inspeccionar contenido directamente en las páginas web.

Esta aplicación, que se espera esté disponible en beta pública en el primer trimestre de 2025, requerirá una cuenta gratuita de Adobe, pero no será necesario tener una suscripción activa a sus servicios. Con esta actualización, Adobe aborda algunas de las críticas recurrentes de los creativos, particularmente en cuanto a la accesibilidad y durabilidad de las credenciales. Esto podría ayudar a la compañía a recuperar la confianza perdida dentro de la comunidad creativa, tras quejas sobre la obligatoriedad de suscripciones costosas y la confusión sobre la adopción de su propia IA generativa.

Sin embargo, sigue existiendo un reto importante: el éxito de esta iniciativa depende de cuántas empresas tecnológicas y de IA se sumen voluntariamente al uso de las Content Credentials. Aunque Adobe ha logrado atraer a más de 3.700 organizaciones para apoyar su Content Authenticity Initiative, el programa sigue siendo opcional.

Las últimas noticias en nuestro podcast semanal

Comentarios

No hay comentarios aún. ¿Por qué no comienzas el debate?

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.