Amodei y Altman abren la puerta a una supervisión externa inédita de los modelos de IA

La industria de la inteligencia artificial acaba de dar un giro que hace apenas doce meses habría parecido impensable. Dario Amodei, consejero delegado de Anthropic, ha planteado en un extenso ensayo publicado este fin de semana una propuesta que podría cambiar por completo la forma en que se supervisa la seguridad de los modelos de IA más avanzados del mundo: incorporar evaluadores externos dentro de las propias empresas que los desarrollan.

Pasó seis meses en prisión por un delito cometido a 1.900 km: un reconocimiento facial la señaló por error

Una abuela de Tennessee que pasó seis meses entre rejas después de que un sistema de reconocimiento facial la vinculara falsamente con una investigación de fraude bancario en Dakota del Norte ha decidido reclamar justicia. Angela Lipps ha presentado una demanda por 10 millones de dólares contra la ciudad de Fargo y un detective del Departamento de Policía de Fargo por un caso que le costó perder su hogar, su vehículo y su mascota.

Los líderes de la IA empiezan a advertir sobre un riesgo que hasta hace poco parecía ciencia ficción

En las últimas semanas, algunos de los máximos responsables de las principales empresas de inteligencia artificial han hecho algo poco habitual: alertar públicamente sobre los riesgos de la tecnología que ellos mismos están construyendo. Entre esos riesgos, uno destaca por su gravedad y por lo poco preparados que estamos para afrontarlo: la posibilidad de que la IA facilite el diseño de armas biológicas.
Weekly Tech Trends newsletter
Newsletter premium

¿Te interesa entender hacia dónde va la tecnología?

Weekly Trends reúne cada viernes las noticias, tendencias y señales más relevantes sobre tecnología e inteligencia artificial, con el contexto necesario para entender qué ocurre y por qué importa.

Descubrir Weekly Trends ↗