A finales del año pasado, California implementó una ley que prohíbe la posesión o distribución de material de abuso sexual infantil (CSAM) generado por inteligencia artificial. Esta normativa, que entró en vigor el 1 de enero, ha llevado al arresto de su primer sospechoso: Darrin Bell, un caricaturista galardonado con el Premio Pulitzer. La policía de Sacramento anunció que Bell, de 49 años, fue detenido bajo la acusación de poseer CSAM generado por IA.
La ley californiana considera que el CSAM generado por IA es perjudicial, incluso sin la existencia de una víctima real. Según la normativa, este tipo de material puede ser utilizado para normalizar el abuso sexual infantil. Además, se critica especialmente el CSAM generado por IA debido al funcionamiento de los sistemas de inteligencia artificial generativa. Estos sistemas, entrenados con conjuntos de datos que contienen representaciones de víctimas reales de CSAM, perpetúan el daño a estas personas al utilizar su imagen para crear nuevos contenidos.
La definición de «inteligencia artificial» en la ley se refiere a un sistema diseñado o basado en máquinas que varía en su nivel de autonomía y que puede, para objetivos explícitos o implícitos, inferir a partir de los datos recibidos cómo generar resultados que influyan en entornos físicos o virtuales. Esta definición subraya la preocupación por el uso de IA en la creación de contenido dañino.
La investigación que llevó al arresto de Bell comenzó con una pista del Centro Nacional para Niños Desaparecidos y Explotados. La Fuerza de Tarea de Crímenes en Internet contra Niños del Valle de Sacramento descubrió inicialmente 18 archivos de CSAM compartidos en línea, que luego se ampliaron a 134 videos. Estos archivos fueron rastreados hasta la cuenta de Bell, lo que llevó a la ejecución de una orden de registro en su domicilio. La policía afirma haber recuperado pruebas relacionadas con el caso, incluyendo CSAM generado por computadora e IA.
Darrin Bell, conocido por sus caricaturas editoriales que abordan temas de comunidades desfavorecidas y critican la hipocresía política, enfrenta ahora cargos por posesión de CSAM generado por IA. Este caso marca el primer arresto en el Valle de Sacramento donde se acusa a un sospechoso de poseer CSAM generado por computadora e IA. Bell, quien ha defendido el respeto por la dignidad humana a través de su trabajo, se encuentra detenido con una fianza de un millón de dólares.
 generado por inteligencia artificial. Esta normativa, que entró en vigor el 1 de enero, ha llevado al arresto de su primer sospechoso: Darrin Bell, un caricaturista galardonado con el Premio Pulitzer. La policía de Sacramento anunció que Bell, de 49 años, fue detenido bajo la acusación de poseer CSAM generado por IA.){kind=link}