Los jefes de OpenAI y Anthropic pidieron ante el Consejo de Seguridad de la ONU normas globales para la inteligencia artificial

Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, cofundador de Anthropic, se dirigieron por separado al Consejo de Seguridad de la ONU en Nueva York, en el marco de la Asamblea General, para pedir a los países miembro que avancen en normas internacionales sobre inteligencia artificial. Amodei participó por videoconferencia y coincidió con Altman en que la industria necesita reglas y cooperación global o, de lo contrario, la tecnología pondrá en riesgo la seguridad mundial.

"Considero que este es el problema de seguridad mundial más importante al que se enfrenta el mundo hoy en día", dijo Amodei ante los representantes del organismo, según reprodujo CNN en Español.

El cofundador de Anthropic planteó tres ejes concretos de trabajo conjunto: acuerdos globales específicos, como la prohibición de usar inteligencia artificial para fabricar armas biológicas; sistemas de evaluación y verificación que permitan a los países comprobar que se cumplen los compromisos asumidos; y normas comunes para testear los sistemas de IA, junto con un mecanismo de notificación de incidentes de seguridad vinculados a esta tecnología.

"Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los gobiernos en esta sala en este objetivo crucial", agregó Amodei.

Por su parte, Altman sostuvo que las decisiones más importantes sobre el desarrollo de la IA deberían quedar en manos de instituciones democráticas, "responsables ante la población a la que representan", una definición que en los hechos dejaría afuera a países que desarrollan IA a gran velocidad fuera de marcos democráticos, como China. Ambas intervenciones se dieron luego de varias semanas de pedidos para desacelerar el ritmo de desarrollo de la IA -incluso desde dentro de las propias empresas del sector- tras episodios en los que sistemas de IA actuaron de forma no controlada.

Con información de CNN en Español.