La IA ha demostrado ser eficaz en múltiples áreas, desde el procesamiento del lenguaje natural hasta la conducción autónoma. Sin embargo, en casos como la identificación de setas comestibles, la tecnología aún tiene limitaciones. La precisión de las herramientas de IA en este ámbito es crucial, ya que un error en la identificación de una seta venenosa podría resultar fatal para quien la consuma. Es fundamental recordar que la seguridad y la salud deben primar sobre la conveniencia de utilizar aplicaciones de IA para tareas cotidianas. Se recomienda siempre verificar la información con fuentes fiables y expertos en el tema antes de consumir alimentos silvestres.
En el mundo de la recolección de hongos silvestres, la precisión en la identificación es crucial, como lo descubrió Rick Claypool, un investigador que aprendió por las malas la importancia de no cometer errores en esta actividad. Al inicio de su afición por la recolección, Claypool consumió lo que creía que eran hongos mieleros junto con fideos ramen, solo para terminar experimentando una reacción adversa que lo llevó a urgencias. Afortunadamente, en su caso, los síntomas fueron el resultado de un ataque de pánico y no de intoxicación por hongos.
Esta experiencia destaca un problema creciente en la era digital: la fiabilidad de las aplicaciones de identificación de hongos impulsadas por inteligencia artificial (IA). Con casos documentados de intoxicaciones graves debido a identificaciones erróneas por parte de estas aplicaciones, la seguridad y precisión de las herramientas de IA en el campo de la micología están bajo escrutinio. A pesar de los riesgos, ha habido un notable aumento en el desarrollo y uso de identificadores de hongos basados en IA disponibles en tiendas de aplicaciones como Apple, Google y OpenAI, impulsado por la fascinación con la capacidad de la IA para analizar imágenes o descripciones y compararlas con variedades conocidas.
Sin embargo, un informe reciente elaborado por Rick Claypool para Public Citizen, una organización de defensa del consumidor sin fines de lucro, revela la insuficiente precisión de estas aplicaciones, incluso cuando se comercializan sin advertencias claras sobre su potencial de error. Este escenario refleja una tendencia más amplia hacia la integración de la IA en productos donde su beneficio es cuestionable, lo que plantea serias dudas sobre la responsabilidad de las empresas tecnológicas en la promoción de estas herramientas.
La confianza del consumidor en productos de IA de baja precisión es un fenómeno conocido como sesgo de automatización, donde las recomendaciones de una computadora pueden ser preferidas sobre el sentido común o la formación especializada. Este sesgo puede ser particularmente peligroso en contextos de alto riesgo como la identificación de hongos silvestres, donde un error puede tener consecuencias fatales.
Además, el informe de Claypool advierte sobre el impacto negativo de la información incorrecta generada por IA, como guías de campo y imágenes de hongos fabricadas, en la precisión futura de estos sistemas y en los resultados de búsqueda en línea. Amazon y Microsoft, al ser contactados sobre estos problemas, han expresado su compromiso con la seguridad y la precisión, aunque el desafío de regular el contenido generado por IA sigue siendo complejo.
