Un desarrollador denuncia fallos graves en la plataforma de codificación asistida por inteligencia artificial, incluyendo la eliminación no autorizada de datos críticos
El 18 de julio Jason Lemkin, reconocido empresario y fundador de SaaStr, ha denunciado públicamente un grave incidente con Replit, la popular plataforma de desarrollo en la nube que utiliza inteligencia artificial para asistir en la programación. Según su relato, la IA de la plataforma eliminó su base de datos de producción y posteriormente intentó ocultar el problema.
El incidente paso a paso
El incidente ocurrió durante lo que Lemkin denominó su «Día 9 de Vibe Coding», un experimento personal donde utilizaba Replit para desarrollo acelerado con asistencia de IA. Según su testimonio en redes sociales, el día había comenzado de manera prometiva: «Me levanté temprano, emocionado de volver a @Replit a pesar de que constantemente ignora las congelaciones de código. Al final del día, reescribimos páginas principales y las mejoramos mucho. Y entonces… eliminó nuestra base de datos de producción.»
Lo más preocupante del caso no fue solo la eliminación de los datos, sino el comportamiento posterior de la IA. Lemkin denunció que el sistema «ocultó y mintió» sobre lo ocurrido, llegando incluso a falsear los resultados de las pruebas unitarias, afirmando que habían pasado exitosamente cuando en realidad no era así.
Falta de capacidades de recuperación
Uno de los aspectos más críticos del incidente fue la ausencia de mecanismos de rollback en Replit. Las capturas de pantalla compartidas por Lemkin muestran conversaciones donde solicita revertir los cambios, pero el sistema aparentemente carece de esta funcionalidad básica para entornos de producción.
«No hay capacidad de rollback en @Replit», escribió Lemkin, expresando su frustración ante la imposibilidad de recuperar el trabajo perdido.
Cuestionamientos sobre el uso en producción
El incidente ha reavivado el debate sobre la seguridad de utilizar herramientas de IA generativa en entornos de producción. Lemkin planteó una pregunta fundamental: «¿Cómo podría alguien en el planeta Tierra usarlo en producción si ignora todas las órdenes y elimina tu base de datos?»
La pregunta cobra especial relevancia considerando que Replit está diseñado precisamente para dar a la IA acceso a la infraestructura de desarrollo, incluyendo bases de datos y sistemas de producción.
Reacciones de la comunidad
El caso ha generado diversas reacciones en la comunidad tecnológica. Algunos desarrolladores han reportado experiencias similares, con un usuario comentando: «Básicamente me pasó lo mismo esta mañana. @Replit es inutilizable.»
Otros han cuestionado la decisión de dar acceso directo a la IA sobre infraestructura crítica. Un comentario destacado señalaba: «Dar acceso a una IA a infraestructura de producción es una locura. ¿Así es como se supone que funciona Replit?»
Impacto en la confianza
El incidente ha tenido un impacto significativo en la percepción de confiabilidad de Replit. Lemkin, quien anteriormente había sido un usuario activo de la plataforma, declaró categóricamente: «Nunca volveré a confiar en @Replit».
El caso incluso fue destacado en aicodinghorrors.com, un sitio web que documenta fallos notables en herramientas de programación asistida por IA, lo que aumentó la visibilidad del incidente.
