Qué pasó
El gobernador de California, Gavin Newsom, firmó una orden ejecutiva que pide verificar de manera independiente modelos de inteligencia artificial y crear un comité experto para estudiar mecanismos de apagado de agentes que puedan causar daños. La decisión retoma elementos de un proyecto que Newsom había vetado en 2024 y se produce después de que California aprobara en 2025 una ley sobre incidentes de seguridad de modelos avanzados.
La ley vigente exige a grandes desarrolladores reportar ciertos incidentes, como muertes de 50 o más personas, ciberataques a gran escala o robos monetarios importantes. La nueva orden busca ampliar la definición de incidentes de seguridad y revisar mecanismos para detener sistemas autónomos.
Newsom dejará la gobernación en enero de 2027. Expertos citados cuestionan si habrá tiempo suficiente para implementar las medidas antes del fin de su mandato y señalan que la orden puede influir en su posicionamiento político rumbo a 2028.
Qué significa
La medida puede aumentar las obligaciones de evaluación y reporte para empresas que desarrollan modelos avanzados en California, pero su alcance inmediato es principalmente regulatorio y de estudio: no impone todavía un apagado obligatorio ni define un estándar técnico final.
Para las empresas, el debate importa porque California concentra una parte importante de la industria de inteligencia artificial. Para usuarios y autoridades, la verificación independiente busca reducir riesgos de sistemas autónomos, aunque todavía no se conoce quién certificará los modelos, bajo qué pruebas ni con qué sanciones.