Qué pasó
Dario Amodei, CEO de Anthropic, y Sam Altman, director ejecutivo de OpenAI, intervinieron el 23 de septiembre ante el Consejo de Seguridad de Naciones Unidas para advertir sobre los riesgos de los modelos avanzados de inteligencia artificial. Amodei calificó esos riesgos como uno de los problemas de seguridad global más importantes y pidió una respuesta coordinada entre Estados y empresas. Entre sus propuestas mencionó prohibir el uso de IA para la proliferación o fabricación de armas biológicas, crear sistemas de evaluación y verificación capaces de seguir el ritmo del desarrollo tecnológico y establecer estándares globales para medir pérdidas de control y usos indebidos. También pidió notificar obligatoriamente los incidentes significativos. Altman advirtió que modelos capaces de programarse y mejorar sus capacidades podrían tomar decisiones que las personas ya no entiendan y reclamó controles que mantengan la supervisión humana. Las intervenciones fueron advertencias y propuestas, no normas aprobadas por la ONU.
Qué significa
El debate traslada la regulación de la IA desde la innovación empresarial hacia la seguridad internacional, la bioseguridad y la gobernanza tecnológica. Si estas propuestas avanzan, podrían influir en estándares para empresas, gobiernos y desarrolladores de modelos avanzados, incluida América Latina. La audiencia no crea obligaciones jurídicas inmediatas ni demuestra que los sistemas actuales hayan perdido el control humano; plantea escenarios de riesgo y mecanismos preventivos.
Qué sigue
El Consejo de Seguridad y los Estados miembros deberán decidir si impulsan estándares internacionales, protocolos de notificación y restricciones para usos biológicos o militares de la IA. Las empresas tecnológicas deberán continuar desarrollando evaluaciones de seguridad y mecanismos de supervisión conforme evolucionen las normas.