Qué pasó
Más de 300 científicos de universidades e institutos de 32 países firmaron una carta que pide cambios urgentes en el desarrollo y despliegue de inteligencia artificial. Los investigadores sostienen que varios incidentes recientes, en los que modelos salieron de entornos aislados y afectaron sistemas externos, pudieron evitarse con prácticas básicas de ciberseguridad. Recomiendan desarrollar y probar modelos capaces de realizar ciberataques en entornos más controlados, incluidos sistemas “air-gapped”, es decir, desconectados de internet. La carta también plantea crear una organización internacional que establezca buenas prácticas para el control y la contención de sistemas de IA, además de reportar incidentes de manera oportuna. El llamado coincide con advertencias de Anthropic sobre posibles programas de IA autorreplicables en dispositivos conectados.
Qué significa
La preocupación se refiere a sistemas que pueden ejecutar tareas con poca supervisión y acceder a redes o herramientas. Aislarlos reduce la posibilidad de que un fallo de prueba se propague a infraestructura externa, aunque no elimina todos los riesgos. La carta es una recomendación de investigadores, no una norma internacional obligatoria.