Una nueva aplicación que ofrece grabar las llamadas telefónicas de los usuarios y pagarles por el audio para luego vender esos datos a empresas de IA se ha convertido, increíblemente, en la aplicación número 2 en la sección de redes sociales del App Store estadounidense de Apple.
La aplicación, Neon Mobile, se presenta como una herramienta para generar dinero que ofrece «cientos o incluso miles de dólares al año» a cambio del acceso a las conversaciones de audio de los usuarios.
Un modelo de negocio controvertido
El sitio web de Neon indica que la empresa paga 30 centavos por minuto cuando llamas a otros usuarios de Neon y hasta 30 dólares por día como máximo por hacer llamadas a cualquier otra persona. La aplicación también paga por referencias.
La app apareció por primera vez en el puesto 476 de la categoría de redes sociales del App Store estadounidense el 18 de septiembre, pero saltó al número 10 al final del día anterior, según datos de la firma de inteligencia de aplicaciones Appfigures. El miércoles, Neon fue vista en la posición número 2 en los rankings de aplicaciones sociales gratuitas para iPhone.
Neon también se convirtió en la aplicación número 7 en general el miércoles por la mañana y posteriormente alcanzó el puesto número 6.
Términos de servicio preocupantes
Según los términos de servicio de Neon, la aplicación móvil de la empresa puede capturar las llamadas telefónicas entrantes y salientes de los usuarios. Sin embargo, el marketing de Neon afirma que solo graba tu lado de la llamada, a menos que sea con otro usuario de Neon.
Esos datos se venden a «empresas de IA», según establecen los términos de servicio de Neon, «con el propósito de desarrollar, entrenar, probar y mejorar modelos de machine learning, herramientas y sistemas de inteligencia artificial, y tecnologías relacionadas».
Licencias amplias sobre los datos
A pesar de lo que dice la política de privacidad de Neon, sus términos incluyen una licencia muy amplia sobre los datos del usuario, donde Neon se otorga a sí misma:
«…un derecho y licencia mundial, exclusiva, irrevocable, transferible, libre de regalías y totalmente pagada (con el derecho a sublicenciar a través de múltiples niveles) para vender, usar, alojar, almacenar, transferir, mostrar públicamente, ejecutar públicamente (incluyendo por medio de una transmisión digital de audio), comunicar al público, reproducir, modificar con el propósito de formatear para visualización, crear obras derivadas según se autoriza en estos Términos, y distribuir tus Grabaciones, en su totalidad o en parte, en cualquier formato de medios y a través de cualquier canal de medios, en cada instancia ya sea conocido ahora o desarrollado en el futuro.»
Esto deja mucho margen de maniobra para que Neon haga más con los datos de los usuarios de lo que afirma.
Los términos también incluyen una sección extensa sobre funciones beta, que no tienen garantía y pueden tener todo tipo de problemas y errores.
Cuestiones legales y de privacidad
Aunque la aplicación de Neon levanta muchas banderas rojas, puede ser técnicamente legal.
«Grabar solo un lado de la llamada telefónica está dirigido a evitar las leyes de interceptación», dice Jennifer Daniels, socia de la firma legal Blank Rome y del Grupo de Privacidad, Seguridad y Protección de Datos.
«Bajo las leyes de muchos estados, tienes que tener el consentimiento de ambas partes de una conversación para poder grabarla… Es un enfoque interesante», añade Daniels.
Peter Jackson, abogado de ciberseguridad y privacidad en Greenberg Glusker, coincide y dice que el lenguaje alrededor de las «transcripciones unilaterales» suena como si pudiera ser una forma indirecta de decir que Neon graba las llamadas de los usuarios en su totalidad, pero puede simplemente eliminar lo que dijo la otra parte de la transcripción final.
Preocupaciones sobre el anonimato
Los expertos legales también señalaron preocupaciones sobre qué tan anónimos pueden ser realmente los datos.
Neon afirma que elimina los nombres, correos electrónicos y números de teléfono de los usuarios antes de vender datos a empresas de IA. Pero la empresa no dice cómo los socios de IA u otros a quienes vende podrían usar esos datos. Los datos de voz podrían usarse para hacer llamadas falsas que suenen como si vinieran de ti, o las empresas de IA podrían usar tu voz para crear sus propias voces de IA.
«Una vez que tu voz está allí, puede usarse para fraude», dice Jackson. «Ahora esta empresa tiene tu número de teléfono y esencialmente suficiente información: tienen grabaciones de tu voz, que podrían usarse para crear una imitación tuya y hacer todo tipo de fraudes.»
Incluso si la empresa en sí es confiable, Neon no revela quiénes son sus socios de confianza o qué se permite hacer a esas entidades con los datos de los usuarios más adelante. Neon también está sujeta a posibles violaciones de datos, como cualquier empresa con datos valiosos puede estarlo.
Prueba técnica y falta de transparencia
En una breve prueba realizada por TechCrunch, Neon no ofreció ninguna indicación de que estuviera grabando la llamada del usuario, ni advirtió al destinatario de la llamada. La aplicación funcionó como cualquier otra aplicación de voz sobre IP, y el identificador de llamadas mostró el número de teléfono entrante, como de costumbre. (Dejaremos a los investigadores de seguridad que intenten verificar las otras afirmaciones de la aplicación.)
El fundador y la financiación
El fundador de Neon, Alex Kiam, no respondió a una solicitud de comentarios. Kiam, quien se identifica solo como «Alex» en el sitio web de la empresa, opera Neon desde un apartamento en Nueva York, según muestra un registro comercial.
Una publicación de LinkedIn indica que Kiam recaudó dinero de Upfront Ventures hace unos meses para su startup, pero el inversor no respondió a una consulta al momento de escribir este artículo.
¿Ha desensibilizado la IA a los usuarios sobre las preocupaciones de privacidad?
Hubo un tiempo en que las empresas que buscaban obtener ganancias de la recopilación de datos a través de aplicaciones móviles manejaban este tipo de cosas de manera encubierta.
Cuando se reveló en 2019 que Facebook estaba pagando a adolescentes para instalar una aplicación que los espiaba, fue un escándalo. Al año siguiente, los titulares volvieron a sonar cuando se descubrió que los proveedores de análisis de app stores operaban docenas de aplicaciones aparentemente inocuas para recopilar datos de uso sobre el ecosistema de aplicaciones móviles. Hay advertencias regulares para desconfiar de las aplicaciones VPN, que a menudo no son tan privadas como afirman. Incluso hay informes gubernamentales que detallan cómo las agencias compran regularmente datos personales que están «comercialmente disponibles» en el mercado.
Ahora los agentes de IA se unen regularmente a las reuniones para tomar notas, y los dispositivos de IA siempre activos están en el mercado. Pero al menos en esos casos, todos están consintiendo a una grabación, dice Daniels.
El costo de la privacidad
A la luz de este uso generalizado y venta de datos personales, es probable que ahora haya quienes sean lo suficientemente cínicos como para pensar que si sus datos se están vendiendo de todos modos, también podrían obtener ganancias de ello.
Desafortunadamente, pueden estar compartiendo más información de la que se dan cuenta y poniendo en riesgo la privacidad de otros cuando lo hacen.
«Hay un tremendo deseo por parte de, ciertamente, los trabajadores del conocimiento, y francamente, de todos, de hacer que sea lo más fácil posible hacer tu trabajo», dice Jackson. «Y algunas de estas herramientas de productividad hacen eso a expensas de, obviamente, tu privacidad, pero también, cada vez más, la privacidad de aquellos con los que estás interactuando día a día.»
