Geoffrey Hinton, reconocido como uno de los padres de la inteligencia artificial, ha expresado recientemente su deseo de haber considerado la seguridad en la IA desde etapas más tempranas de su investigación. A pesar de no arrepentirse del trabajo que sentó las bases de esta tecnología, Hinton admite que la rápida evolución hacia la superinteligencia le preocupa. Esta superinteligencia, que podría superar las capacidades humanas más avanzadas, podría llegar en los próximos cinco a veinte años, según sus predicciones.
Durante una conferencia de prensa en Estocolmo, donde se le otorgará el Premio Nobel de Física, Hinton destacó la importancia de abordar cómo mantener el control sobre estas tecnologías emergentes. Junto a John Hopfield, su co-laureado, Hinton ha sido reconocido por desarrollar fundamentos cruciales del aprendizaje automático, un campo que permite a las máquinas imitar el aprendizaje humano. Esta preocupación por la seguridad en la IA se suma a su decisión de dejar su puesto en Google para hablar libremente sobre los posibles peligros de la tecnología, como la pérdida de empleos, la discriminación y la proliferación de noticias falsas.
Hinton también ha advertido sobre el peligro a corto plazo de las armas autónomas letales, señalando la falta de regulación en este ámbito. A pesar de las cláusulas europeas que eximen el uso militar de la IA de ciertas restricciones, existe una carrera armamentista entre potencias como Estados Unidos, China y Rusia. En su discurso, Hinton subrayó la necesidad de una regulación más estricta para evitar que estas tecnologías se utilicen de manera perjudicial.
Durante su conferencia, Hinton explicó el desarrollo de la máquina de Boltzmann, un modelo que aprende de ejemplos y que ha sido fundamental para el avance de las redes neuronales profundas. Aunque estas máquinas ya no se utilizan de la misma manera, su trabajo permitió demostrar que las redes neuronales profundas podían ser efectivas. Además, Hinton ha anunciado su intención de donar parte del premio Nobel a causas benéficas, incluyendo el acceso al agua para comunidades indígenas y el apoyo a jóvenes neurodiversos.
