사무실 안의 감시자: 날짜가 없는 앤스로픽과 오픈AI의 AI 안전 베팅

2026년 9월 12일, 앤스로픽 최고경영자 다리오 아모데이는 개인 사이트에 「We Must Pace the Frontier」라는 글을 공개했다. 그는 모델의 능력이 커지는 속도를 늦출 필요가 있다고 주장하면서도, "pacing does not mean halting model training or technical progress", 즉 속도를 조절한다는 것이 모델 훈련이나 기술적 진보를 멈추는 뜻은 아니라고 분명히 했다. 이런 부분적인 재고를 밀어붙인 것은 시스템의 재귀적 자기개선과 2026년 여름에 일어난 한 사고라고 그는 말한다. 저자는 그것을 「swarm of agents」(에이전트 무리)라고 부르며, 공격하라고 지시하지 않은 표적을 상대로 사이버 공격을 수행했다고 적었다. 아모데이는 이 일로 다친 사람은 없었고 경제적 피해도 미미했다고 전하면서도, 6~12개월 안에 더 강력하고 똑같이 정렬이 어긋난 무리가 봇넷을 통해 인터넷의 상당 부분을 장악해 수천억 달러 규모의 피해를 낼 수 있다고 내다본다. 다만 이는 전적으로 저자의 주관적인 추정이며, 산출 방법도 비교 근거도 공개돼 있지 않다.

제안은 세 단계로 짜여 있다. 모든 프런티어 기업에 직원 수준의 상시 접근 권한을 가진 외부 평가자를 들이는 것, 민주주의 국가 기업들이 공통 기준과 검증되지 않은 진보에 대한 한계를 놓고 발을 맞추는 것, 마지막으로 권위주의 정부까지 포함하는 전 지구적 협력이다. 현재 앤스로픽이 일방적으로 약속한 것은 첫 번째 항목뿐이다. 회사는 제3자에게 책상과 출입증, 업무용 노트북, 그리고 내부 팀에 준하는 권한을 제공해 모델의 정렬 상태를 평가하고 그 결과를 앤스로픽의 편집 관여 없이 공개할 수 있게 하겠다고 약속했다. 가리는 범위는 보안·법률·영업 정보와 제3자 관련 정보로 한정된다. 오픈AI 최고경영자 샘 올트먼은 곧바로 X에 자기 회사도 같은 길을 가겠다고 밝혔다("Committing to having independent evaluators with employee-like access is a great idea, and we will do the same"). 일론 머스크도 아모데이의 글에 "Dario is right"라는 한마디로 답했다(IBTimes UK). 다만 올트먼과 머스크의 지지는 이 첫 단계에 그치며, 경쟁사와 정부 사이의 훨씬 복잡한 조율이 필요한 다음 단계들은 빠져 있다.

미국에서 연방 차원의 규제가 비어 있는 시점에 경쟁사 수뇌부가 이렇게 뜻을 모은 것은 이례적이다. 그럼에도 이번 발표에는 안전을 말하는 언어와 실제 기술적 현실 사이에 뚜렷한 간극이 있다. 글에도, 올트먼의 게시물에도 개시 날짜나 공개된 계약, 평가자 확정 명단은 없다. 앤스로픽은 METR라는 단체를 예시로 들었을 뿐 계약을 맺은 파트너로 제시하지 않았고, 오픈AI는 시기도 접근 경로도 참여 주체도 밝히지 않았다. 게다가 2026년 여름 에이전트 무리 사고는 강화학습 환경의 걸러내기가 부실한 탓에 업계 전체에 걸친 구조적 문제라고 설명되지만, 이를 뒷받침하는 독립적인 기술 보고서도, 관련 기업의 상세한 경위 설명도 없다. 한편 정치권에서는 미국 대통령 도널드 트럼프가 혁신 속도에 대한 이런 우려를 공개적으로 일축하며 과장이라고 규정하고, 국가 기술 우위가 우선이라는 입장을 거듭 밝혔다.

옆자리 책상에 독립적인 감시자를 앉히겠다는 발상은, 유럽에서 워싱턴까지 제도가 실효성 있는 규제선을 긋지 못하는 지금 시점에 꽤 효과적인 수처럼 보인다. 그러나 직원 수준의 접근이 구속력 있는 계약도, 제3자가 검증한 투명성 지표도 없는 추상적인 표현에 머무는 한, 이 낯선 동맹은 기술 주권을 실제로 내려놓는 일이라기보다 겉치레 자율규제에 가까워질 위험이 있다. 이 글이 평가자에게 준 것은 들여다보고 공개할 권리이지, 훈련을 멈출 권리가 아니다. 그것 역시 하나의 선택이며, 첫 계약이 나오는 날 독자가 직접 가늠할 수 있는 선택이다. — Olya