La inteligencia artificial está siendo integrada forzosamente en prácticamente todos los aspectos de nuestra vida, desde teléfonos y aplicaciones hasta motores de búsqueda e incluso ventanillas de comida rápida. El hecho de que ahora tengamos navegadores web con asistentes de IA integrados muestra que la forma en que algunas personas utilizan internet para buscar y consumir información hoy es muy diferente de hace apenas unos años.
Pero las herramientas de IA están pidiendo cada vez más niveles excesivos de acceso a tus datos personales bajo la pretensión de necesitarlos para funcionar. Este tipo de acceso no es normal, ni debería normalizarse.
El problema de los permisos excesivos en aplicaciones de IA
No hace mucho tiempo, tenías razón al cuestionar por qué una aplicación gratuita aparentemente inocua de «linterna» o «calculadora» en la tienda de aplicaciones intentaría solicitar acceso a tus contactos, fotos e incluso tu ubicación en tiempo real. Estas aplicaciones pueden no necesitar esos datos para funcionar, pero los solicitarán si creen que pueden ganar un par de dólares monetizando tu información.
En estos días, la IA no es muy diferente.
El caso de Comet: Un navegador con hambre de datos
Tomemos como ejemplo el último navegador web con IA de Perplexity, Comet. Este navegador permite a los usuarios encontrar respuestas con su motor de búsqueda de IA integrado y automatizar tareas rutinarias, como resumir emails y eventos del calendario.
En una prueba reciente del navegador, se encontró que cuando Perplexity solicita acceso al Google Calendar de un usuario, el navegador pide una amplia gama de permisos para la cuenta de Google del usuario, incluyendo:
- Capacidad para gestionar borradores y enviar emails
- Descargar tus contactos
- Ver y editar eventos en todos tus calendarios
- Incluso la capacidad de tomar una copia del directorio completo de empleados de tu empresa
Perplexity dice que gran parte de estos datos se almacenan localmente en tu dispositivo, pero aún así estás otorgando a la empresa derechos para acceder y usar tu información personal, incluso para mejorar sus modelos de IA para todos los demás.
Una tendencia preocupante en la industria
Perplexity no está solo en pedir acceso a tus datos. Hay una tendencia de aplicaciones de IA que prometen ahorrarte tiempo transcribiendo tus llamadas o reuniones de trabajo, pero que requieren que un asistente de IA acceda a:
- Tus conversaciones privadas en tiempo real
- Tus calendarios
- Contactos
- Y mucho más
Meta también ha estado probando los límites de lo que sus aplicaciones de IA pueden solicitar acceso, incluyendo tocar las fotos almacenadas en el carrete de cámara de un usuario que aún no han sido subidas.
La analogía del «cerebro en un frasco»
La presidenta de Signal, Meredith Whittaker, comparó recientemente el uso de agentes y asistentes de IA con «poner tu cerebro en un frasco». Whittaker explicó cómo algunos productos de IA pueden prometer hacer todo tipo de tareas mundanas, como:
- Reservar una mesa en un restaurante
- Comprar un boleto para un concierto
Pero para hacer eso, la IA dirá que necesita tu permiso para:
- Abrir tu navegador para cargar el sitio web (lo que puede permitir a la IA acceso a tus contraseñas almacenadas, marcadores e historial de navegación)
- Una tarjeta de crédito para hacer la reserva
- Tu calendario para marcar la fecha
- Puede también pedir abrir tus contactos para que puedas compartir la reserva con un amigo
Los riesgos de seguridad y privacidad son enormes
Hay serios riesgos de seguridad y privacidad asociados con el uso de asistentes de IA que dependen de tus datos. Al permitir el acceso, estás entregando instantánea e irreversiblemente los derechos a una instantánea completa de tu información más personal tal como es en ese momento en el tiempo, incluyendo:
- Tu bandeja de entrada
- Mensajes
- Entradas de calendario que datan de años atrás
- Y mucho más
Todo esto por el bien de realizar una tarea que supuestamente te ahorra tiempo o, según el punto de Whittaker, te evita tener que pensar activamente en ello.
También estás otorgando al agente de IA permiso para actuar de manera autónoma en tu nombre, requiriendo que pongas una enorme cantidad de confianza en una tecnología que ya es propensa a:
- Equivocarse
- Inventar cosas completamente
- Crear alucinaciones defamatorias
El factor humano en la supervisión de IA
Usar IA además requiere que confíes en las empresas con fines de lucro que desarrollan estos productos de IA, que dependen de tus datos para tratar de hacer que sus modelos de IA funcionen mejor. Cuando las cosas salen mal (y salen mal, mucho), es práctica común que humanos en las empresas de IA revisen tus prompts privados para descubrir por qué las cosas no funcionaron.
El análisis costo-beneficio no vale la pena
Desde un punto de vista de seguridad y privacidad, un simple análisis costo-beneficio de conectar IA a tus datos más personales simplemente no vale la pena renunciar al acceso a tu información más privada. Cualquier aplicación de IA que solicite estos niveles de permisos debería hacer sonar tus alarmas, justo como la aplicación de linterna que quería saber tu ubicación en cualquier momento del tiempo.
La pregunta clave que debes hacerte
Dadas las montañas de datos que entregas a las empresas de IA, pregúntate si lo que obtienes a cambio realmente vale la pena.
La respuesta, en la mayoría de los casos, probablemente sea no. La conveniencia temporal de automatizar tareas simples no justifica el riesgo permanente de exponer años de tu información más personal y sensible a sistemas que aún están en desarrollo y a empresas cuyo modelo de negocio depende de monetizar exactamente esa información.
La recomendación es clara: antes de otorgar permisos extensos a cualquier herramienta de IA, evalúa cuidadosamente si los beneficios realmente superan los riesgos a largo plazo para tu privacidad y seguridad digital.