California avanza con la ‘Ley Anti-Jefes Robot’ para regular la IA en el trabajo

La inteligencia artificial está transformando drásticamente el panorama laboral, pero California está tomando medidas para asegurar que los humanos mantengan el control final en decisiones críticas del trabajo. El Senate Bill 7, conocido como la «No Robo Bosses Act» (Ley de No Jefes Robot), avanza por la legislatura estatal con el objetivo de proteger a los trabajadores de decisiones automatizadas potencialmente injustas.

El problema: supervisión laboral con IA sin control humano

Una empresa en el área de la Bahía ofrece a los empleadores inteligencia artificial que filtra candidatos potenciales revisando 10,000 fuentes públicas en línea buscando referencias a violencia o drogas ilegales. Otra utiliza la tecnología para escanear los correos electrónicos de oficina de los trabajadores en busca de signos de insatisfacción o agotamiento. Otras ofrecen análisis de IA de cada acción en línea de los trabajadores en el lugar de trabajo.

Mientras la inteligencia artificial proporciona nuevas y poderosas herramientas a los empleadores que buscan optimizar la contratación y monitorear trabajadores, el proyecto de ley busca abordar los temores de que la tecnología pueda negar injustamente trabajos y promociones a los trabajadores o llevar a castigos y despidos.

Qué propone la nueva ley

La «No Robo Bosses Act» —Senate Bill 7— busca imponer la toma de decisiones humanas sobre cierta tecnología de automatización en el lugar de trabajo. Introducida por el senador estatal Jerry McNerney, un demócrata de Pleasanton, pasó el Senado estatal en una votación de 27-10 a principios de este mes.

«Cuando se trata de las vidas de las personas y sus carreras, no quieres que estos sistemas automatizados de toma de decisiones operen sin ninguna supervisión», dijo McNerney.

Provisiones clave del proyecto de ley:

• Prohibiría a los empleadores confiar «principalmente» en software de toma de decisiones automatizada para promoción, disciplina o despido de empleados
• Cualquier decisión automatizada necesitaría ser revisada por una persona que debe investigar y «compilar información corroborante o de apoyo para la decisión»
• Prohíbe el uso de productos que buscan predecir el comportamiento, creencias, intenciones, personalidad, estados psicológicos o emocionales de los trabajadores, u otras características
• Requiere notificación a los solicitantes de empleo si se usa toma de decisiones automatizada en la contratación

La industria se organiza en contra

La California Chamber of Commerce, liderando una coalición que se opone al proyecto de ley, argumentó que muchos de los requisitos del proyecto son «onerosos e imprácticos». La coalición incluye la California Retailers Association, la California Grocers Association y TechNet, que representa a Apple, Cisco, Google, HP, Meta, OpenAI, Salesforce, Tesla, Uber y Waymo.

Los errores «llevarían a litigios costosos incluso para los empleadores más pequeños», y el proyecto de ley falla en considerar los beneficios de la toma de decisiones automatizada, según una carta del 12 de mayo. Los grupos también criticaron la prohibición total de usar software para predecir comportamientos, diciendo que las instituciones financieras usan tal tecnología para evaluar el riesgo de fraude y otros crímenes.

Tecnologías que seguirían siendo legales

Con la contratación excluida del proyecto de ley, tecnología como las entrevistas de video autónomas de la empresa de IA de San Francisco Braintrust para candidatos potenciales, que producen «tarjetas de puntuación detalladas junto con resultados de pasa/falla», permanecería legal.

También sería legal la «solución» de inteligencia artificial «out-of-the-box» de la empresa de IA de Los Ángeles Fama para que los empleadores filtren candidatos potenciales revisando 10,000 fuentes públicas en línea, incluyendo redes sociales y blogs, buscando señales de alerta como «lenguaje violento», insultos, «lenguaje sugestivo» o promoción del uso de marihuana.

Enforcement y sanciones

La ley sería aplicada por el comisionado laboral estatal, y los fiscales públicos y trabajadores podrían presentar demandas civiles por supuestas violaciones. Los empleadores serían multados con $500 por cualquier violación.

Cuando se le preguntó cómo se podría prevenir que los empleadores simplemente aprueben automáticamente las decisiones tomadas por máquinas, McNerney dijo: «Siempre va a haber potencial para abuso en el lugar de trabajo: tener un ser humano en el ciclo da algún tipo de protección».

El debate nacional sobre regulación de IA

Mientras tanto, a nivel nacional, el proyecto de ley de financiamiento republicano busca limitar las regulaciones estatales sobre IA. La versión de la Cámara impondría una prohibición de 10 años sobre tal regulación. La versión del Senado retendría fondos federales de infraestructura de IA de estados que regulen la tecnología durante la próxima década.

El asesor tecnológico del presidente Donald Trump, el capitalista de riesgo multimillonario de Silicon Valley David Sacks, ha apoyado la moratoria como la «posición correcta de gobierno pequeño». La alternativa, dijo Sacks en una publicación en X, «es un mosaico de 50 regímenes regulatorios diferentes impulsados por el pesimismo de IA».

Más de dos docenas de miembros californianos del Congreso han salido en oposición a la prohibición de 10 años, diciendo en una carta del 5 de junio a los senadores estadounidenses que «Estados Unidos debe tomar el liderazgo en identificar y establecer barreras de sentido común para el desarrollo y despliegue responsable y seguro de IA», y prevenir que los estados regulen la IA «es inconsistente con el objetivo del liderazgo en IA».

El futuro del proyecto de ley

El proyecto de ley se dirige al Comité de Trabajo y Empleo de la Asamblea estatal el 25 de junio. Si se aprueba, marcaría un precedente significativo en la regulación de la inteligencia artificial en el lugar de trabajo, estableciendo California como líder en la protección de los derechos de los trabajadores en la era de la automatización.

La batalla entre la innovación tecnológica y la protección laboral continúa desarrollándose, con California una vez más en el centro del debate sobre cómo equilibrar el progreso tecnológico con los derechos humanos fundamentales.