MultiMediosMéxico › Tecnología
OpenAI pide a EU liderar normas globales de IA ante debate en la ONU
La empresa publicó una entrada de blog mientras los líderes mundiales se reúnen en la Asamblea General de la ONU; Sam Altman informará el miércoles al Consejo de Seguridad.
Por El Economista ·
- OpenAI pidió que EU lidere una iniciativa internacional para normas técnicas globales de IA.
- La empresa propone métricas comunes y protocolos de notificación de incidentes.
- Sam Altman informará el miércoles al Consejo de Seguridad de la ONU sobre IA y seguridad.
OpenAI solicitó este lunes que Estados Unidos encabece una iniciativa internacional para elaborar normas técnicas globales para la inteligencia artificial, incluida la llamada "automejora recursiva", que permite a los sistemas ampliar sus propias capacidades sin intervención humana. La petición se dio a conocer mientras los líderes mundiales se reúnen en la Asamblea General de las Naciones Unidas.
En una entrada de blog, la empresa señaló que resulta indispensable crear un mecanismo que facilite la elaboración de normas nacionales e internacionales complementarias en materia de IA, junto con métricas comunes y protocolos para notificar incidentes que permitan una acción colectiva más eficaz. El texto sostiene que actuar ahora definirá si Estados Unidos da forma al marco global de la IA o si solo observa cómo se consolida a su alrededor un sistema fragmentado, desigual y conflictivo.
OpenAI también advirtió que no asumir el liderazgo podría debilitar las redes que ya comparten Estados Unidos y sus aliados. Sobre la posibilidad de moderar el ritmo de desarrollo, la compañía afirmó que no se trata de mantener una velocidad predeterminada, sino de garantizar que la investigación sobre alineación y su aplicación se mantengan por delante de las capacidades de los sistemas. La alineación busca que la IA actúe conforme a los valores humanos.
El tema será central en la Asamblea General de la ONU de esta semana, luego de que varios líderes del sector, entre ellos el presidente ejecutivo de OpenAI, Sam Altman, pidieran una ralentización coordinada del desarrollo de esta tecnología, al advertir que pronto podría mejorar por sí misma y escapar al control humano.
Altman tiene previsto informar este miércoles a los 15 miembros del Consejo de Seguridad de la ONU sobre la IA y la seguridad internacional. La reunión fue convocada por Francia, que preside el órgano durante septiembre, y será encabezada por el ministro francés de Europa y Relaciones Exteriores, Jean-Noël Barrot.
El Consejo de Seguridad, encargado de mantener la paz y la seguridad internacionales, abordó por primera vez los riesgos de la IA en 2023. En esa ocasión, China sostuvo que la tecnología no debía convertirse en un "caballo desbocado" y Estados Unidos advirtió contra su uso para censurar o reprimir a la población.
Fuente original: El Economista