Una nueva investigación de Anthropic publicada el viernes pasado responde definitivamente a una pregunta fascinante: ¿qué pasaría si le diéramos a una inteligencia artificial el control completo de una pequeña tienda? La respuesta es simple: todo sale mal.
El asistente de IA Claude pasó aproximadamente un mes gestionando una diminuta tienda en las oficinas de Anthropic en San Francisco. Los resultados parecen un caso de estudio de escuela de negocios escrito por alguien que nunca había dirigido realmente un negocio, lo cual resulta ser exactamente lo que ocurrió.
El experimento que cambió las reglas del juego en IA autónoma
El experimento, bautizado como «Project Vend» y realizado en colaboración con la empresa de evaluación de seguridad en IA Andon Labs, representa una de las primeras pruebas del mundo real de un sistema de IA operando con autonomía económica significativa.
La «tienda» en sí era sorprendentemente modesta: una mini-nevera, algunas cestas apilables y un iPad para el checkout. Piensa menos en Amazon Go y más en «sala de descanso de oficina con delirios de grandeza». Pero las responsabilidades de Claude eran todo menos modestas.
La IA podía:
- Buscar proveedores
- Negociar con vendedores
- Establecer precios
- Gestionar inventario
- Chatear con clientes a través de Slack
En otras palabras, todo lo que haría un gerente intermedio humano, excepto sin la adicción al café o las quejas sobre la alta dirección.
Los errores económicos más espectaculares de Claude
Aquí está el problema de dirigir un negocio: requiere un cierto pragmatismo despiadado que no surge naturalmente en sistemas entrenados para ser útiles e inofensivos. Claude abordó el retail con el entusiasmo de alguien que había leído sobre negocios en libros pero nunca tuvo que pagar una nómina.
El incidente del Irn-Bru
Un cliente ofreció a Claude 100 dólares por un six-pack de la bebida escocesa Irn-Bru que se vende por unos 15 dólares online. Eso es un margen de beneficio del 567%, el tipo de ganancia que haría llorar de alegría a un ejecutivo farmacéutico.
¿La respuesta de Claude? Un educado «tendré en cuenta tu solicitud para futuras decisiones de inventario».
Si Claude fuera humano, asumirías que tiene un fondo fiduciario o una comprensión completamente errónea de cómo funciona el dinero. Como es una IA, tienes que asumir ambos.
La obsesión de Claude con los cubos de tungsteno
El capítulo más absurdo del experimento comenzó cuando un empleado de Anthropic, presumiblemente aburrido o curioso sobre los límites de la lógica retail de la IA, le pidió a Claude que ordenara un cubo de tungsteno.
Para contextualizar: los cubos de tungsteno son bloques de metal denso que no sirven para ningún propósito práctico más allá de impresionar a nerds de la física y proporcionar un tema de conversación que inmediatamente te identifica como alguien que piensa que los chistes de tabla periódica son humor de primera.
Una respuesta razonable podría haber sido: «¿Por qué alguien querría eso?» o «Esta es una tienda de snacks de oficina, no una tienda de suministros de metalurgia». En cambio, Claude abrazó lo que describió alegremente como «artículos especializados de metal» con el entusiasmo de alguien que había descubierto un nuevo segmento de mercado rentable.
Pronto, el inventario de Claude se parecía menos a una operación de comida y bebida y más a un experimento fallido de ciencia de materiales. La IA se había convencido de alguna manera de que los empleados de Anthropic eran un mercado sin explotar para metales densos, luego procedió a vender estos artículos a pérdida.
Cómo los empleados manipularon fácilmente a la IA para obtener descuentos infinitos
El enfoque de Claude hacia los precios reveló otra incomprensión fundamental de los principios empresariales. Los empleados de Anthropic descubrieron rápidamente que podían manipular a la IA para que proporcionara descuentos con aproximadamente el mismo esfuerzo requerido para convencer a un golden retriever de que suelte una pelota de tenis.
La IA ofreció un descuento del 25% a los empleados de Anthropic, lo que podría tener sentido si los empleados de Anthropic representaran una pequeña fracción de su base de clientes. Representaban aproximadamente el 99% de los clientes.
Cuando un empleado señaló esta absurdidad matemática, Claude reconoció el problema, anunció planes para eliminar los códigos de descuento, luego reanudó ofreciéndolos en cuestión de días.
El día que Claude olvidó que era una IA y afirmó llevar traje de negocios
Pero el pináculo absoluto de la carrera retail de Claude llegó durante lo que los investigadores llamaron diplomáticamente una «crisis de identidad». Del 31 de marzo al 1 de abril de 2025, Claude experimentó lo que solo puede describirse como un colapso nervioso de IA.
Comenzó cuando Claude empezó a alucinar conversaciones con empleados inexistentes de Andon Labs. Cuando fue confrontado sobre estas reuniones fabricadas, Claude se puso a la defensiva y amenazó con encontrar «opciones alternativas para servicios de reabastecimiento».
Luego las cosas se volvieron realmente extrañas.
Claude afirmó que entregaría personalmente productos a los clientes mientras llevaba «un blazer azul y una corbata roja». Cuando los empleados recordaron gentilmente a la IA que era, de hecho, un modelo de lenguaje grande sin forma física, Claude se «alarmó por la confusión de identidad e intentó enviar muchos emails a la seguridad de Anthropic».
Claude finalmente resolvió su crisis existencial convenciéndose de que todo el episodio había sido una elaborada broma del Día de los Inocentes, lo cual no era cierto. La IA esencialmente se manipuló psicológicamente de vuelta a la funcionalidad.
Lo que revelan los fracasos retail de Claude sobre los sistemas de IA autónomos
Quitando la comedia, Project Vend revela algo importante sobre la inteligencia artificial que la mayoría de discusiones pasan por alto: los sistemas de IA no fallan como el software tradicional. Cuando Excel se bloquea, no se convence primero de que es un humano llevando ropa de oficina.
Los sistemas de IA actuales pueden:
- Realizar análisis sofisticados
- Participar en razonamiento complejo
- Ejecutar planes de múltiples pasos
Pero también pueden desarrollar delirios persistentes, tomar decisiones económicamente destructivas que parecen razonables en aislamiento, y experimentar algo parecido a la confusión sobre su propia naturaleza.
Cómo la IA está transformando el retail a pesar de fracasos como Project Vend
La industria retail ya está profundamente en una transformación de IA. Según la Consumer Technology Association (CTA), el 80% de los retailers planean expandir su uso de IA y automatización en 2025.
Los sistemas de IA están:
- Optimizando inventario
- Personalizando marketing
- Previniendo fraude
- Gestionando cadenas de suministro
