Los directores ejecutivos de las principales empresas desarrolladoras de inteligencia artificial, Sam Altman de OpenAI y Dario Amodei de Anthropic, comparecieron ante el Consejo de Seguridad de las Naciones Unidas (ONU) para urgir a las potencias globales a implementar marcos regulatorios estrictos sobre esta tecnología. Durante la sesión, los líderes tecnológicos advirtieron que un manejo deficiente de los modelos avanzados podría desencadenar riesgos existenciales para la humanidad, incluyendo la posibilidad real de perder el control sobre sistemas que se programan y mejoran a sí mismos de forma recursiva.
Evaluación de amenazas y salvaguardas multilaterales
En su intervención presencial en la sede de Naciones Unidas, Sam Altman enfatizó que el sector tecnológico se encuentra en una encrucijada crucial, instando a los gobiernos a definir protocolos técnicos rigurosos para medir capacidades, evaluar amenazas de ciberataques autónomos y compartir vulnerabilidades críticas. El directivo apeló a la cooperación internacional multilateral, recordando que históricamente las naciones rivales se han unido para regular tecnologías de alto impacto, por lo que solicitó que el poder de la inteligencia artificial no quede concentrado en una sola empresa o país.
Debate sobre autonomía bélica y supervisión humana
La sesión en el organismo internacional abordó por primera vez las implicaciones de los sistemas bélicos autónomos, sumándose a las advertencias del secretario general de la ONU, António Guterres, sobre los peligros inmediatos de las armas automatizadas. Ante este escenario, los ponentes remarcaron la necesidad imperiosa de mantener a las personas en el centro de las decisiones éticas y de vida o muerte, garantizando que el desarrollo científico se mantenga bajo estricta supervisión humana para evitar brechas de seguridad catastróficas.