Actualizaciones
Directivos de OpenAI, Meta y Nvidia defendieron que el mercado y la autorregulación empresarial pueden contener los riesgos de la IA, mientras Yoshua Bengio pidió intervención gubernamental ante los incidentes recientes. OpenAI, Anthropic y Google también analizan crear un organismo común de supervisión.
El comisionado de la ONU para los Derechos Humanos pidió a Estados y empresas regular urgentemente la inteligencia artificial y advirtió que todos los derechos humanos están amenazados.
Trump reiteró que la IA no necesita mayores controles mientras permanezca en la Presidencia, mientras la ONU y legisladores de otros países presionan por salvaguardas obligatorias. En Estados Unidos, la oposición presidencial y la división del Congreso hacen improbable una ley federal de seguridad de IA en el corto plazo.
La ONU advirtió que la autorregulación empresarial no es suficiente para controlar los riesgos de la IA y pidió a los Estados establecer reglas. China, Estados Unidos y empresas tecnológicas mantienen posiciones enfrentadas sobre seguridad y competencia tecnológica.
Las acciones vinculadas con inteligencia artificial cayeron en Asia después de que directivos de Anthropic, OpenAI y SpaceX respaldaran una ralentización del desarrollo; SoftBank cayó 13% y el Kospi 3%.
El presidente Donald Trump rechazó una moratoria o desaceleración regulatoria de la inteligencia artificial y el presidente de la Cámara, Mike Johnson, anunció reuniones con empresas del sector para discutir el equilibrio entre seguridad y competencia con China.
Elon Musk respaldó el llamado de Anthropic y OpenAI para ralentizar el desarrollo de la inteligencia artificial por riesgos de seguridad; OpenAI y Anthropic anunciaron auditorías independientes de sus sistemas.
El director de Anthropic pidió ralentizar el desarrollo de modelos avanzados y propuso auditorías independientes con acceso permanente y similar al de empleados; Sam Altman respaldó la idea y OpenAI anunció que permitirá evaluaciones externas.
Anthropic informó que bloqueó intentos de utilizar Claude para desarrollar armas biológicas, mientras expertos pidieron controles más estrictos sobre el acceso a modelos avanzados.
Más investigadores y trabajadores de Anthropic difundieron advertencias sobre riesgos extremos de la inteligencia artificial, mientras Elon Musk y otros críticos calificaron la campaña como una operación política. La discusión amplía el debate interno sobre la seguridad de modelos avanzados.
Qué pasó
El debate internacional sobre la regulación de la inteligencia artificial incorporó nuevas posiciones empresariales y académicas. Sam Altman, director ejecutivo de OpenAI, pidió mayor confianza en las compañías tecnológicas y sostuvo que existen incentivos para desarrollar sistemas seguros, aunque reconoció que la población tiene motivos para sentir temor. Mark Zuckerberg rechazó frenar el desarrollo de la IA y defendió el alineamiento de los modelos, las evaluaciones independientes y la responsabilidad empresarial. Jensen Huang, de Nvidia, afirmó que la seguridad debe tratarse principalmente como un problema de ingeniería y no legal. En contraste, Yoshua Bengio advirtió que los incidentes recientes pueden llevar a los gobiernos a actuar y comparó el momento con el giro regulatorio ocurrido durante la pandemia. OpenAI, Anthropic y Google analizan además crear un organismo común para supervisar riesgos de IA.
Qué significa
La discusión enfrenta dos modelos: confiar principalmente en controles técnicos, incentivos de mercado y auditorías privadas, o imponer obligaciones públicas y supervisión externa para sistemas de alto riesgo. Ninguna de las propuestas mencionadas constituye todavía una regulación global ni crea obligaciones para Ecuador. El resultado del debate puede influir en normas sobre datos, empleo, ciberseguridad, derechos humanos y contratación de sistemas automatizados por gobiernos y empresas.
Qué sigue
Las empresas deberán definir si crean el organismo común y qué alcance tendría. Gobiernos y organismos multilaterales continuarán debatiendo auditorías, responsabilidad, transparencia y límites para sistemas avanzados de inteligencia artificial.
Fuentes
- [{"name":"Al Jazeera","url":"https://www.aljazeera.com/news/2026/9/10/anthropic-discloses-fourth-ai-breach-as-researcher-quits-over-safety?traffic_source=rss","type":"other","title":"Anthropic discloses 4th AI hacking incident as researcher quits over safety","date":"2026-09-10"},{"name":"BBC","url":"https://www.bbc.co.uk/news/articles/c74edv9887eo?at_medium=RSS&at_campaign=rss","type":"other","title":"Why some experts increasingly fear AI will take over","date":"2026-09-09"},{"name":"The Guardian","url":"https://www.theguardian.com/technology/2026/sep/10/anthropic-researchers-warn-ai-musk","type":"other","title":"More Anthropic researchers warn of AI’s perils but Musk dismisses ‘psyop’","date":"2026-09-10"},{"name":"BBC","url":"https://www.bbc.co.uk/news/articles/cx2zrrpkx20o?at_medium=RSS&at_campaign=rss","type":"other","title":"Anthropic blocks possible attempt to use AI to make biological weapons","date":"2026-09-11"},{"name":"Al Jazeera","url":"https://www.aljazeera.com/news/2026/9/11/anthropic-warns-of-bids-to-use-ai-to-build-biological-weapons?traffic_source=rss","type":"other","title":"Anthropic warns of bids to use AI to build biological weapons","date":"2026-09-11"},{"name":"La República","url":"https://www.larepublica.ec/blog/2026/09/12/openai-respalda-la-propuesta-de-anthropic-de-ralentizar-la-ia-y-permitira-auditorias/","type":"other","title":"OpenAI respalda la propuesta de Anthropic de ralentizar la IA y permitirá auditorías","date":"2026-09-12"},{"name":"BBC","url":"https://www.bbc.co.uk/news/articles/c14dpgm0rg4o?at_medium=RSS&at_campaign=rss","type":"other","title":"Anthropic boss Dario Amodei calls for AI development to slow down","date":"2026-09-12"},{"name":"The Guardian","url":"https://www.theguardian.com/technology/2026/sep/12/we-must-slow-the-pace-ceo-of-anthropic-calls-for-an-ai-slowdown","type":"other","title":"‘We must slow the pace’: CEO of Anthropic calls for an AI slowdown","date":"2026-09-12"},{"name":"Expreso","url":"https://www.expreso.ec/economia-y-negocios/elon-musk-coincide-rivales-anthropic-openai-desacelerar-ia-295568.html","type":"other","title":"Elon Musk coincide con sus rivales Anthropic y OpenAI en desacelerar la IA","date":"2026-09-12"},{"name":"La República","url":"https://www.larepublica.ec/blog/2026/09/12/elon-musk-coincide-con-sus-rivales-anthropic-y-openai-en-desacelerar-la-ia/","type":"other","title":"Elon Musk coincide con sus rivales Anthropic y OpenAI en desacelerar la IA","date":"2026-09-12"},{"name":"La República","url":"https://www.larepublica.ec/blog/2026/09/13/la-urgencia-de-ralentizar-la-ia-y-perder-contra-china-divide-a-eeuu-tras-alarma-del-sector/","type":"other","title":"La urgencia de ralentizar la IA y perder contra China divide a EEUU tras alarma del sector","date":"2026-09-13"},{"name":"La República","url":"https://www.larepublica.ec/blog/2026/09/13/republicanos-rechazan-freno-a-la-ia-para-que-china-no-sobrepase-a-eeuu/","type":"other","title":"Republicanos rechazan freno a la IA para que China no sobrepase a EEUU","date":"2026-09-13"},{"name":"BBC","url":"https://www.bbc.co.uk/news/articles/c7v48vp31mdo?at_medium=RSS&at_campaign=rss","type":"other","title":"Trump downplays AI risks after dire expert warnings and calls to slow development down","date":"2026-09-13"},{"name":"The Guardian","url":"https://www.theguardian.com/business/2026/sep/14/ai-linked-stocks-fall-tech-bosses-call-slowdown-anthropic-openai","type":"other","title":"AI-linked stocks slide after tech bosses call for slowdown in ‘reckless’ development","date":"2026-09-14"},{"name":"Expreso","url":"https://www.expreso.ec/internacional/trump-llama-fuerzas-negativas-quienes-buscan-regular-ia-no-sucedera-295635.html","type":"other","title":"Trump llama “fuerzas negativas” a quienes buscan regular la IA: “No sucederá”","date":"2026-09-13"},{"name":"Naciones Unidas","url":"https://news.un.org/feed/view/en/story/2026/09/1168326","type":"other","title":"Countries must increase AI regulation to avoid ‘existential risks’: Türk","date":"2026-09-14"},{"name":"Naciones Unidas","url":"https://news.un.org/feed/view/es/story/2026/09/1541899","type":"other","title":"IA: regular una tecnología sin salvaguardas ni inhibiciones","date":"2026-09-14"},{"name":"Al Jazeera","url":"https://www.aljazeera.com/news/2026/9/14/trump-says-calls-for-more-control-on-ai-are-a-sick-conspiracy?traffic_source=rss","type":"other","title":"Trump says calls for more control on AI are a ‘SICK conspiracy’","date":"2026-09-14"},{"name":"BBC Mundo","url":"https://www.bbc.com/mundo/articles/c95y4jd0ygddo?at_medium=RSS&at_campaign=rss","type":"other","title":"China rechaza la idea de que está en una "competencia maliciosa" con EE.UU. por el control de la IA","date":"2026-09-14"},{"name":"BBC","url":"https://www.bbc.co.uk/news/articles/cw980n0nd0qjo?at_medium=RSS&at_campaign=rss","type":"other","title":"Trump says AI safety fears a 'hoax' as he rejects calls for greater safeguards","date":"2026-09-15"},{"name":"BBC","url":"https://www.bbc.co.uk/news/articles/ck20989806e9o?at_medium=RSS&at_campaign=rss","type":"other","title":"AI regulation faces deadlock as calls grow for Congress to act","date":"2026-09-15"},{"name":"France 24","url":"https://news.google.com/rss/articles/CBMizgFBVV95cUxQQ0g0RkNDclVFRFZQTVc0Z1BKXzdRmc1dVRxbDBlVjdKRzJpU01WNkZ2eDdUQU9oZVl1WENEbzJ2cHJWdUNJeXA1RzZ2RHhuM2dNM3k1aUhTOHA3TjFzVng4d1NFR1ptN3BGY0RzTVZ6d192MlRmLU5KZ3lPVFBrQTJVNTNCWV9BakZmUUQzTU5HUHJkQ09yeHVqMDM0S2tBTU5FVk5BWi16elRCSlBzZVV0T0ttbGl5dHlUME5PY21IRkV5MWpQTWZpUQ?oc=5","type":"other"},{"name":"La Silla Vacía","url":"https://www.lasillavacia.com/en-vivo/onu-pide-acciones-urgentes-para-regular-la-ia/","type":"other","title":"ONU pide “acciones urgentes” para regular la IA","date":"2026-09-15"},{"name":"Al Jazeera","url":"https://www.aljazeera.com/news/2026/9/15/us-speaker-rejects-ai-pause-warns-of-losing-edge-to-china?traffic_source=rss","type":"other","title":"US speaker Mike Johnson rejects AI pause, warns of losing edge to China","date":"2026-09-15"},{"name":"BBC Mundo","url":"https://www.bbc.com/mundo/articles/c6gqdekd4zpwo?at_medium=RSS&at_campaign=rss","type":"other","title":"Por qué el jefe de OpenAI pide que confiemos en la empresas de IA a pesar de que el mundo "tiene razón en sentir miedo"","date":"2026-09-16"},{"name":"France 24","url":"https://news.google.com/rss/articles/CBMi3AFBVV95cUxQcS0xLVA3UzVRWnBsRmhUckFMQ2JxWnBlU1h1NDVaMzNXdXlBN2ZuLUNwZUl3OS1LZm5JTkJ3QnJGZy16TXRici1BOGFlaXZZNjZwVlViVUlDLUluSTNVcVRlVEg2bFRYRnlsaTBOcGxxOHJSVWhyd3p2V1ptQ0poWTZ4bTdTejBoTkhPbkF6MmRZdjNDX2pwS3oySlV5eF9yMU5qWVduRncwTWkxRi1ueWZ2bGctV2c0TEg2OExsQlpLOEMwbXNVUV9RVmVMbnV4N1NrTWtpNWlMVzZL?oc=5","type":"other","title":"OpenAI, Anthropic y Google buscan crear un organismo de supervisión de riesgos de la IA","date":"2026-09-16"},{"name":"The Guardian","url":"https://www.theguardian.com/technology/2026/sep/16/ai-tech-regulation-government-action-yoshua-bengio","type":"other","title":"‘Godfather of AI’ says tech regulation is nearing Covid-style pivot moment","date":"2026-09-16"}]