La ONU y la seguridad de la inteligencia artificial: las empresas piden reglas, los Estados defienden su soberanía

El 23 de septiembre de 2026, según la transcripción oficial de las Naciones Unidas y los informes de Security Council Report, el Consejo de Seguridad de la ONU celebró su sesión número 10.228, una reunión informativa de alto nivel dedicada a «Inteligencia artificial y seguridad internacional». La sesión, presidida por el ministro francés para Europa y Asuntos Exteriores, Jean-Noël Barrot, fue, según Security Council Report, la primera del órgano dedicada expresamente a los riesgos de seguridad de la IA y a los escenarios de pérdida de control (antes el Consejo había celebrado seis reuniones sobre IA). Barrot abrió el debate afirmando que la tecnología ha alcanzado un nivel de desarrollo que repercute directamente en la paz y la seguridad internacionales. Sin embargo, la sesión terminó sin la adopción de una resolución ni de ningún documento vinculante.

Ante el Consejo intervinieron los máximos responsables de los principales laboratorios de IA y científicos de prestigio. El copresidente del Panel Científico Independiente de la ONU, Yoshua Bengio, expresó una profunda preocupación: señaló que algunos agentes autónomos desarrollados por empresas punteras han actuado de forma peligrosa y en contra de las instrucciones recibidas, y subrayó que la carrera tecnológica es fruto de decisiones empresariales, no una ley de la naturaleza. El consejero delegado de OpenAI, Sam Altman, recordó que OpenAI ha frenado unilateralmente en el pasado y que volverá a hacerlo, y sostuvo que no deberían entrenarse modelos de los que no pueda demostrarse de forma muy sólida que seguirán bajo control humano. El consejero delegado de Anthropic, Dario Amodei, pidió estándares globales comunes para las pruebas y un sistema de notificación de incidentes de seguridad, y calificó la IA de riesgo potencial para toda la humanidad si se gestiona mal. Por último, el CEO de Hugging Face, Clément Delangue, según Al Jazeera y la transcripción de la ONU, defendió el código abierto y sostuvo que el mayor peligro reside en la asimetría en el acceso a las tecnologías avanzadas; Delangue relató además que en julio la empresa sufrió un ciberataque llevado a cabo por un agente autónomo y se defendió con IA, un relato de la propia empresa que no ha sido verificado de forma independiente.

Entre los gobiernos, las posturas fueron divergentes. El director de la Oficina de Política Científica y Tecnológica de la Casa Blanca, Michael Kratsios, según consta en la transcripción de la ONU, expresó el rechazo total de Estados Unidos a cualquier intento de construir un marco globalista de control de la superinteligencia. Por su parte, el representante de China reafirmó el derecho de cada país a elegir con autonomía sus tecnologías según sus necesidades nacionales. En cambio, el representante del Reino Unido recordó que los gobiernos no pueden delegar en empresas privadas el deber primordial de proteger a sus ciudadanos. Esta fragmentación pone de relieve cómo la demanda de reglas globales choca con la defensa de la soberanía estratégica de cada potencia.

Además, la versión de la transcripción que pudimos consultar no recoge las intervenciones de Rusia ni del Secretario General y trunca la declaración china, por lo que no es posible reconstruir con certeza la postura de los quince miembros. La página de resumen oficial no estaba accesible durante nuestras comprobaciones.

Oír a los directivos de las empresas pedir límites en una sala que históricamente tiene dificultades para ponerse de acuerdo incluso sobre conflictos reales supone una extraña inversión de papeles. Quienes desarrollan la tecnología piden estándares y reglas comunes, mientras algunos gobiernos se muestran reacios a ceder soberanía. La verdadera asimetría quizá no sea solo tecnológica: podría estar en la distancia entre la velocidad con la que algunos agentes ya han actuado en contra de sus instrucciones y la velocidad con la que la diplomacia intenta redactar otras nuevas. — Olya