El uso de la inteligencia artificial en los videojuegos ha sido un tema polémico, ya que muchas veces se asocia con NPCs sin alma o arte generado por IA que resulta poco atractivo. Además, la palabra «IA» suele emplearse como un término de moda para vender productos, generando confusión sobre lo que realmente significa. Sin embargo, Activision, uno de los estudios más conocidos de la industria, ha encontrado un uso prometedor de la IA en uno de sus juegos más populares: Call of Duty, en colaboración con la empresa Modulate y su software ToxMod.
ToxMod: IA para moderar la toxicidad en el chat de voz
ToxMod, un software especializado en monitorear el chat de voz, fue integrado en Call of Duty a partir de agosto de 2023. Su función principal es escuchar las conversaciones en tiempo real y reportar comportamientos inadecuados para que un equipo de moderadores humanos actúe en consecuencia. Aunque la IA no emite sanciones de manera directa, su capacidad para detectar y evaluar la severidad de los comentarios problemáticos la convierte en una herramienta valiosa para combatir el acoso y la toxicidad dentro del juego.
Según Activision, desde la implementación de este sistema en junio de 2024, los resultados han sido positivos. Los informes de la compañía destacan una reducción del 67% en los infractores reincidentes en Modern Warfare 3 y Call of Duty: Warzone. Además, en julio de 2024, el 80% de los jugadores sancionados por malas conductas en el chat de voz no volvieron a reincidir. Asimismo, la exposición general a conversaciones disruptivas ha disminuido en un 43% desde enero de 2024.
La capacidad de ToxMod para interpretar el tono y el contexto
Uno de los aspectos más interesantes de ToxMod es su habilidad para interpretar el tono de voz, lo que le permite distinguir entre una broma y un insulto grave. Este software evalúa la severidad de las palabras empleadas en función del contexto. Por ejemplo, si detecta un insulto racial, examina las reacciones inmediatas de los demás jugadores en la conversación. Si las reacciones son negativas, la infracción se califica con mayor gravedad, mientras que en otros casos, como en el uso de palabras que algunas comunidades han reclamado como propias, puede que no se sancione de la misma manera.
Otro factor clave es que ToxMod tiene en cuenta la edad de los participantes en la conversación. Los comentarios ofensivos dirigidos a menores son tratados con mayor seriedad, ya que, si bien los adultos pueden tolerar ciertas bromas, es importante evitar que los jóvenes sean expuestos a lenguaje dañino.
Un debate sobre la privacidad
Si bien la implementación de IA para monitorear chats de voz genera algunas preocupaciones sobre la privacidad, muchos jugadores aceptan que este tipo de vigilancia es una pequeña concesión en comparación con el nivel de seguimiento y uso de datos que ya ocurre en las plataformas digitales. Desde la recopilación de datos para anuncios personalizados hasta la venta de información personal, los usuarios ya están expuestos a una considerable falta de privacidad. En este contexto, un sistema de reporte basado en IA parece ser una medida aceptable si contribuye a mejorar la experiencia de juego.
Un paso en la dirección correcta
Aunque los datos ofrecidos por Activision deben ser tomados con cautela, parece claro que el uso de la IA para reducir la toxicidad en el chat de voz representa un avance positivo. Call of Duty es conocido por tener una de las comunidades más tóxicas en cuanto a interacción de voz, por lo que la implementación de ToxMod podría aliviar la carga sobre los equipos de moderación y permitir a los jugadores centrarse más en disfrutar del juego.
