유엔과 인공지능 안전: 기업은 규칙을 요구하고, 국가는 주권을 지킨다

유엔 공식 회의록과 Security Council Report의 보도에 따르면, 2026년 9월 23일 유엔 안전보장이사회는 제10228차 회의를 열었다. '인공지능과 국제 안보'를 주제로 한 고위급 브리핑이었다. 장노엘 바로 프랑스 유럽·외교부 장관이 주재한 이 회의는 Security Council Report에 따르면 AI의 안보 위험과 통제 상실 시나리오를 명시적으로 다룬 이사회의 첫 회의였다(이사회는 그전에 AI를 주제로 여섯 차례 회의를 열었다). 바로 장관은 이 기술이 이제 국제 평화와 안보에 직접 영향을 미칠 만큼 발전했다고 말하며 논의를 시작했다. 그러나 회의는 결의안이나 구속력 있는 문서 없이 끝났다.

이사회에서는 주요 AI 연구소의 수장들과 저명한 과학자들이 발언했다. 유엔 독립 과학 패널 공동의장 요슈아 벤지오는 깊은 우려를 표하며, 선도 기업들이 개발한 일부 자율 에이전트가 위험한 방식으로, 그리고 받은 지시에 반해 행동했다고 지적했다. 그는 기술 경쟁이 자연법칙이 아니라 기업이 내린 선택의 결과라고 강조했다. 샘 올트먼 OpenAI CEO는 OpenAI가 과거에 일방적으로 속도를 늦춘 적이 있으며 앞으로도 그럴 것이라고 밝히고, 인간의 통제 아래 머물 것임을 매우 확실하게 입증할 수 없는 모델은 훈련해서는 안 된다고 주장했다. 다리오 아모데이 Anthropic CEO는 테스트를 위한 공통 글로벌 표준과 안전 사고 보고 체계를 요구하며, 잘못 관리될 경우 AI는 인류 전체에 대한 잠재적 위험이 될 수 있다고 말했다. 마지막으로 Al Jazeera와 유엔 회의록에 따르면, 클레망 들랑그 Hugging Face CEO는 오픈소스를 옹호하며 가장 큰 위험은 첨단 기술에 대한 접근의 비대칭성에 있다고 주장했다. 들랑그는 또한 7월에 회사가 자율 에이전트가 수행한 사이버 공격을 받았고 AI를 활용해 방어했다고 전했는데, 이는 독립적으로 검증되지 않은 회사 측 설명이다.

각국 정부의 입장은 엇갈렸다. 유엔 회의록에 기록된 바에 따르면, 백악관 과학기술정책실(OSTP)의 마이클 크라치오스 실장은 초지능을 통제하기 위한 글로벌리즘적 틀을 만들려는 어떠한 시도도 미국은 전면 거부한다고 밝혔다. 중국 대표는 각국이 자국의 필요에 따라 기술을 자율적으로 선택할 권리를 재확인했다. 반면 영국 대표는 정부가 시민을 보호할 일차적 의무를 민간 기업에 위임할 수 없다고 강조했다. 이러한 분열은 글로벌 규칙에 대한 요구가 각 강대국의 전략적 주권 수호와 충돌하고 있음을 보여준다.

덧붙여, 우리가 확인할 수 있었던 회의록 판본에는 러시아와 사무총장의 발언이 빠져 있고 중국의 발언은 중간에 잘려 있다. 따라서 15개 이사국 전체의 입장을 확실하게 재구성하는 것은 불가능하다. 공식 요약 페이지는 검증 과정에서 접속되지 않았다.

실제 분쟁에 대해서조차 합의에 어려움을 겪어 온 회의장에서 기업 수장들이 제한을 요구하는 모습은 묘한 역할 전도다. 기술을 개발하는 쪽은 공통의 표준과 규칙을 요구하고, 일부 정부는 주권을 내주기를 꺼린다. 진짜 비대칭은 기술에만 있는 것이 아닐지 모른다. 일부 에이전트가 이미 지시를 거슬러 행동한 속도와, 외교가 새로운 규칙을 쓰려 애쓰는 속도 사이의 격차에 있을 수도 있다. — Olya