Un exempleado expone los secretos de Palantir, la empresa más peligrosa de Silicon Valley

Las plataformas de vigilancia con IA militarizada amenazan los derechos humanos en todo el mundo. Así es como funcionan

«ICE está a la vuelta de la esquina», dijo mi amigo, levantando la vista de su teléfono. Estábamos escribiendo en una cafetería de uno de los barrios más antiguos de Nueva York, donde escuelas e iglesias apoyan a prósperas comunidades de migrantes como lo han hecho desde mucho antes de que Estados Unidos existiera. Ahora los agentes de esta agencia federal descarriada —reconocida por abusos de derechos civiles como perfilamiento racial, detención indebida, negligencia médica y detenciones inhumanas— estaban a solo pasos de distancia, registrando a nuestros vecinos en sus hogares y en el parque al otro lado de la calle.

Un día antes, me había reunido con corresponsales extranjeros en las Naciones Unidas para explicar la arquitectura de vigilancia con IA que Immigration and Customs Enforcement (ICE) está utilizando en todo Estados Unidos. La agencia de aplicación de la ley usa tecnologías de selección de objetivos que uno de mis antiguos empleadores, Palantir Technologies, ha sido pionero en desarrollar y proliferar —herramientas que una vez fui encargado de ilustrar como diseñador gráfico y escritor, pero cuyas consecuencias apenas estoy comenzando a comprender.

Una arquitectura invisible de vigilancia masiva

Aunque en gran medida invisible, la tecnología como la de Palantir juega un papel importante en eventos mundiales, desde las guerras en Irán, Gaza y Ucrania hasta la detención de inmigrantes y estudiantes disidentes en Estados Unidos. Pero a pesar de su ubicuidad, los legisladores, tecnólogos y los medios están fallando en proteger a la gente de la amenaza de este tipo particular de IA militarizada y sus consecuencias, en parte porque no la han reconocido por su nombre.

Conocidos como sistemas Istar (intelligence, surveillance, target acquisition and reconnaissance), estas herramientas, construidas por varias empresas, permiten a los usuarios rastrear, detener y, en el contexto de guerra, matar personas a gran escala con la ayuda de IA. Entregan objetivos a los operadores combinando enormes cantidades de datos de fuentes públicas y privadas para detectar patrones, y son particularmente útiles en proyectos de vigilancia masiva, migración forzada y guerra urbana.

También conocidos como «cadenas de muerte de IA», nos arrastran a todos a una red de mecanismos de rastreo invisibles que apenas estamos comenzando a comprender, pero que comenzamos a experimentar visceralmente en Estados Unidos mientras ICE maneja estos sistemas cerca de nuestros hogares, iglesias, parques y escuelas.

La naturaleza invisible de estas estructuras de vigilancia —y cómo influyen en nuestras vidas— es parte de la razón por la cual la comprensión pública de lo que estas herramientas hacen es tan turbia. También es, sin embargo, lo que me atrajo a trabajar para Palantir como escritor de arquitectura. Era una oportunidad de conocer los espacios digitales donde muchas personas pasan la mayor parte de sus vidas hoy.

Trabajando con software en la nube en oficinas, conduciendo autos nuevos en nuestros desplazamientos, navegando sin fin en redes sociales en casa: todos alimentamos vastas cantidades de datos a programas de vigilancia y selección de objetivos creados por las grandes tecnológicas que a menudo no reconocemos hasta que es demasiado tarde. Por eso continúo tratando de transmitir e ilustrar cómo estas aplicaciones Istar violan nuestros derechos civiles y autonomía de maneras cada vez más perversas y violentas.

Violaciones sistemáticas de derechos constitucionales

Las redes de arrastre impulsadas por tecnología Istar atrapan a más que migrantes y combatientes —así como a sus familias y conexiones— en su despertar. Parecen violar los derechos de la primera y cuarta enmienda: primero, estableciendo vastas e invisibles redes de vigilancia que limitan las cosas que las personas se sienten cómodas compartiendo en público, incluyendo con quién se reúnen o a dónde viajan; y segundo, habilitando búsquedas y confiscaciones sin orden judicial de los datos de las personas sin su conocimiento o consentimiento.

Están privando rápidamente a algunas de las poblaciones más vulnerables del mundo —disidentes políticos, migrantes o residentes de Gaza— de sus derechos humanos.

Hubo un tiempo cuando escribía sobre las casas adosadas en mi barrio, con ventanas ornamentadas y tachuelas de hierro en forma de estrella, y cómo daban la bienvenida a migrantes que buscaban trabajo duro y oportunidades en Estados Unidos. Con paredes compartidas y alquileres asequibles, crearon comunidades tolerantes y prósperas y aceleraron el ascenso de la clase media más grande de la historia. Ahora un nuevo tipo de arquitectura recibe a migrantes y visitantes a América y decide su futuro: una que no está hecha de ladrillos, mortero y madera, sino que comprende estos sistemas de vigilancia digital invisibles e invasivos.

La arquitectura digital de la represión

Con nombres como Investigative Case Management (ICM) e ImmigrationOS, las plataformas de big data que Palantir proporciona para el Departamento de Seguridad Nacional, y como las que ofrece a las FDI, están fundamentalmente compuestas de cuatro elementos compartidos: los datos subyacentes integrados en el sistema, la interpretación y modelado de esos datos a través de análisis, y la ejecución de acciones automatizadas —con o sin participación humana. En cada capa de esta arquitectura, hay preguntas éticas significativas sobre derechos civiles, recolección de datos, calidad de datos, sesgo, discriminación, precisión, automatización y, más importante, responsabilidad.

En última instancia, estas plataformas generan y rastrean objetivos explotando una gama alucinante de conjuntos de datos. Esto puede incluir información profundamente personal como datos biométricos y médicos, datos de redes sociales que involucran a amigos y familia, datos de ubicación precisos derivados de lectores de placas de matrícula, datos de tarjetas SIM y datos de drones de vigilancia. También pueden procesar datos comprados de un próspero ecosistema de corredores de datos privados, o citados de empresas como Waymo y Meta.

La falta de transparencia respecto a los conjuntos de datos explotados en estas aplicaciones, y cómo se comparten entre sistemas, distorsiona aún más el panorama. Por eso es importante centrarse en las víctimas.

La agenda de Trump y la escalada de la represión

Pronto, la agenda de reasentamiento masivo de Trump —desde seleccionar y rastrear hasta gestionar el arresto y remoción de migrantes del país— podría coordinarse sin problemas utilizando herramientas Istar. ICE recientemente pagó a Palantir decenas de millones para habilitar «análisis completo de objetivos de poblaciones conocidas», reforzando los esfuerzos de deportación de la administración Trump.

En Gaza, Palantir proporciona a las FDI infraestructura de datos crítica para misiones relacionadas con la guerra. Las fuerzas armadas israelíes, mientras tanto, han desarrollado herramientas Istar propias como «Where’s Daddy», que siguen objetivos a sus hogares familiares para ejecución mediante bombas baratas, no guiadas «tontas».

Palantir ha contestado reportes de que conduce vigilancia generalizada de estadounidenses y dice estar «comprometida a defender los derechos humanos». Por todas las razones anteriores, rechazo esas afirmaciones.

La resistencia civil cobra fuerza

Es momento de abrazar la causa de la privacidad nuevamente, o seremos testigos de la proliferación desenfrenada de estas herramientas de selección de objetivos en nuestras vidas comerciales y públicas. Mientras las tecnologías de selección de objetivos de IA se vuelven más normalizadas en Estados Unidos, también se incorporan cada vez más al sector privado mientras las empresas construyen sus propias redes de arrastre de datos con plataformas como Palantir para dirigirse a sus clientes y empleados: no para matarlos o deportarlos, sino para moldear su comportamiento y maximizar ingresos, aumentando aún más los sistemas de control.

Desafortunadamente, la lucha por los derechos civiles frente a la IA está luchando a nivel federal y estatal. En Colorado, las primeras leyes de protección al consumidor de la nación sobre IA —que apuntan a proteger a los residentes del estado de la discriminación— ahora están bajo amenaza.

Esta es la razón por la cual el mes pasado tomé las calles de Denver, junto con otros 40 activistas, para marchar a la sede de Palantir desde el capitolio estatal. Fuimos acompañados por manifestantes de costa a costa, en Washington DC, Nueva York, Palo Alto y Seattle, quienes, impulsados por conexiones sueltas pero una causa compartida, también protestaron las oficinas de Palantir en sus ciudades. Cuatro personas fueron arrestadas en Nueva York, y en Denver nuestro pequeño grupo se encontró con una impresionante y coordinada demostración de fuerza. Nos enfrentamos a casi tantos oficiales de policía como manifestantes durante nuestro recorrido de dos millas, donde cerraron muchas calles y siguieron nuestro convoy con drones.

Montado en la parte trasera de mi camioneta, grité por la liberación de mis vecinos de la custodia de ICE —como Eric Sanchez Goitia, Jeanette Vizguerra, y Nixon y Dixon Pérez— personas que, como yo, han construido toda su vida en Colorado como inmigrantes que buscaron contribuir, aprender y trabajar duro por este país. El hecho de que estén encarcelados y expulsados por tecnologías hechas en su estado natal, pagadas con el dinero de sus impuestos, es una gran mancha en la historia de nuestro estado.

Mientras nos acercábamos al capitolio en nuestro regreso, supliqué al alcalde de Denver, Mike Johnston, al gobernador de Colorado, Jared Polis, y a nuestros representantes que prestaran atención a las tecnologías caseras que están dañando a nuestros vecinos, que dejaran de tratar de prevenir que las primeras protecciones al consumidor de IA del país sean implementadas y que desafiaran al gobierno federal mientras busca construir más centros de detención en nuestro estado.

El senado de Colorado ahora se está reuniendo para una sesión especial presupuestaria, donde las primeras protecciones al consumidor de IA de la nación están en riesgo de ser diluidas, retrasadas o desmanteladas por intereses de capital de riesgo. Por lo tanto, nuestras protestas esta semana no solo apuntarán a la sede de Palantir sino al capitolio estatal mientras los representantes deliberan sobre la medida. Apoyarán el nuevo proyecto de ley de transparencia de IA, una versión simplificada del proyecto de protección al consumidor, y se opondrán a un proyecto apoyado por las grandes empresas que privaría a los individuos de su derecho a demandar a los negocios de IA. Nuestro movimiento también ha crecido, con más de 40 marchas planeadas este fin de semana contra las grandes tecnológicas y Palantir en todo el país.

Un futuro bajo vigilancia total

Estos días, estoy más preocupado por cuándo, no si, me convertiré en un objetivo. Soy periodista independiente, soy inmigrante y he demostrado en apoyo de Palestina —y estas tecnologías han sido utilizadas para atacar las tres categorías de personas—. No obstante, mis miedos no se comparan con las experiencias de aquellos siendo atacados por las FDI o ICE utilizando herramientas Istar —incluyendo periodistas asesinados en Gaza con ataques aéreos dirigidos, o migrantes sufriendo condiciones inhumanas cada noche en sus celdas de prisión.

Si algo, soy exactamente el tipo de persona que debería esforzarse más por entender las consecuencias del mundo real de esta tecnología, habiendo participado una vez en su diseminación. Solo espero que más trabajadores de la tecnología y legisladores puedan hacer lo mismo.