Investigadores desarrollan una técnica para enseñar decisiones morales a vehículos autónomos

Los investigadores han logrado un avance significativo en el desarrollo de vehículos autónomos al validar una técnica que estudia cómo las personas toman decisiones «morales» al conducir. Este método permitirá entrenar la inteligencia artificial de los automóviles sin conductor para que tome decisiones éticas en situaciones de tráfico cotidianas.

La clave está en las decisiones de bajo riesgo

«Muy pocas personas se proponen causar un accidente o lastimar a otros en la carretera», explica Veljko Dubljević, autor principal del estudio y profesor en el programa de Ciencia, Tecnología y Sociedad de la Universidad Estatal de Carolina del Norte. «Los accidentes a menudo surgen de decisiones de bajo riesgo, como si exceder el límite de velocidad en cinco millas por hora o hacer una parada parcial en una señal de alto».

La investigación, publicada en la revista Frontiers in Psychology bajo el título «Morality on the road: the ADC model in low-stakes traffic vignettes», representa un paso crucial hacia el desarrollo de vehículos autónomos con capacidades de decisión ética.

El modelo ADC: agente, acción y consecuencia

Los investigadores desarrollaron su técnica basándose en el modelo Agent Deed Consequence (ADC), que postula que las personas consideran tres elementos al hacer un juicio moral:

• El agente: el carácter o la intención de la persona que realiza algo
• La acción: lo que se está haciendo
• La consecuencia: el resultado que surge de la acción

Esta metodología presenta diversos escenarios de tráfico a los sujetos de prueba, quienes deben responder preguntas sobre la aceptabilidad moral y varios aspectos de cada situación.

Validación con los críticos más exigentes: filósofos

Para validar su técnica, los investigadores eligieron al público más crítico posible: 274 participantes con títulos avanzados en filosofía. La elección no fue casual.

«Para la psicología moral, el conjunto de críticos más detallistas serían los filósofos, así que decidimos probar nuestra técnica con ellos», señala Dubljević.

Resultados sorprendentes: consenso universal

Los resultados fueron reveladores. A pesar de que diferentes filósofos siguen distintas escuelas de pensamiento sobre qué constituye la toma de decisiones morales, todos llegaron a las mismas conclusiones.

«Los utilitaristas abordan los problemas morales de manera muy diferente a los deontólogos, que se enfocan mucho en seguir reglas», explica Dubljević. «Lo emocionante aquí es que nuestros hallazgos fueron consistentes en todos los casos. Utilitaristas, deontólogos, éticos de la virtud, sin importar su escuela de pensamiento, todos llegaron a las mismas conclusiones sobre la toma de decisiones morales en el contexto de la conducción».

Implicaciones para la inteligencia artificial

Esta consistencia tiene implicaciones profundas para el desarrollo de IA en vehículos autónomos:

• Generalización de hallazgos: Los resultados pueden aplicarse ampliamente
• Potencial tremendo para el entrenamiento de IA: La técnica puede usarse efectivamente para programar sistemas autónomos
• Paso significativo hacia adelante: Representa un avance importante en la integración de principios éticos en la tecnología

Próximos pasos: escalamiento global

El equipo de investigación ya tiene planes ambiciosos para expandir su trabajo:

«El siguiente paso es escalar las pruebas entre poblaciones más amplias y en múltiples idiomas, con el objetivo de determinar hasta qué punto este enfoque puede generalizarse tanto dentro de la cultura occidental como más allá», indica Dubljević.

El equipo detrás del breakthrough

La investigación fue liderada por Michael Pflanzer, estudiante de doctorado en NC State, junto con Dario Cecchini, investigador postdoctoral en NC State, y Sam Cacace, profesor asistente de psicología en la Universidad de Carolina del Norte en Charlotte.

Este avance representa un paso crucial hacia un futuro donde los vehículos autónomos no solo sean técnicamente competentes, sino también éticamente responsables, capaces de tomar decisiones morales que reflejen los valores humanos universales en situaciones de tráfico del mundo real.

La implementación de este sistema podría marcar la diferencia entre vehículos autónomos que simplemente siguen reglas programadas y aquellos que pueden navegar las complejidades morales del mundo real de manera similar a como lo haría un conductor humano consciente.