Anthropic, SEC에 'AI를 가속하는 AI' 임계점이 가까울 수 있다고 밝혀

2026년 11월 2일, Anthropic, PBC는 10월 26일 제출한 상장 투자설명서의 수정본을 SEC에 제출했다. 접수 번호 0001628280-26-068676, 파일 번호 333-299633의 Form S-1/A다. 회사는 이 문서에서 현재 모델이 아닌 미래 모델에 대한 내부 추정과 전망을 보면 Responsible Scaling Policy(RSP)의 임계점 중 하나에 곧 도달할 수 있다고 썼다. 원문은 “may imminently meet our Responsible Scaling Policy's definition of ‘dramatically accelerated progress attributable to AI’”(‘AI에 기인한 극적으로 가속된 진보’라는 정의를 곧 충족할 수 있다)이다. 같은 문서에서 Anthropic은 “We have not designated any of our current models as exceeding this threshold”라고 덧붙였다. 다시 말해 현재 모델 가운데 임계점을 넘었다고 분류된 것은 없다.

기사 전체에 적용되는 방법상의 메모: SEC 문서 전문은 확인하지 않았으며, 인용한 각 문장은 EDGAR 공식 전문 검색으로 확인했다.

무엇이 문제인지 이해하려면 RSP를 봐야 한다. Anthropic이 모델의 역량 수준을 의무적 안전장치와 연결하는 틀이다. 임계점 중 하나는 AI 연구 자체를 크게 가속하는 AI, 흔히 재귀적 자기 개선이라고 부르는 가설에 관한 것이다. 공식 페이지에 따르면 현행 버전은 2026년 7월 8일부터 시행된 3.4다. 그러나 공개 페이지에는 3.1 버전에서 도입된 설명만 남아 있고, 임계점의 최신 문구는 없다. 그 설명은 임계점을 2018~2024년 속도로 이뤄진 AI 진보 2년치를 단 1년으로 압축하는 능력으로 묘사한다. 즉 개별 연구자의 생산성이 아니라, 역량 전체가 발전하는 속도가 두 배가 되는 것을 말한다.

대응책과 관련해 Anthropic은 추가 조치를 검토 중이라고 썼다. 여기에는 연구개발 과정의 일부 결정에 인간의 검토와 승인을 요구하는 RSP 개정이 포함되며, “considering updates to our Responsible Scaling Policy to keep humans in control of frontier model development at Anthropic”라는 표현이 쓰였다. 회사는 또 의미 있는 인간의 감독이나 이해 없이 Claude가 후속 모델을 스스로 만들게 두는 것은 안전하지 않다고 본다고 밝혔다. 두 가지 경고는 10월 26일 S-1에 이미 있었다. 첫째는 “Using AI to help build more capable AI could also pose a considerable safety risk”다. 둘째는 회사가 자사 개발 속도의 상당한 가속을 그것이 일어난 뒤에야 알아차릴 수 있다는 가능성이다. 반면 곧 도달할 수 있는 임계점과 인간 검토는 새로운 내용으로, 11월 2일 수정본에만 등장한다. 문서는 임계점이 언제, 어떤 미래 모델에 의해, 어떤 구체적 조치와 함께 넘어설 수 있는지는 밝히지 않는다. RSP 개정은 검토 중인 것으로 표시돼 있다.

이 문장들이 어디에 실렸는지가 중요하다. 상장 투자설명서는 SEC 규정에 따른 책임이 따르는 투자자 대상 공식 진술이지, 블로그 글이 아니다. 하지만 위험 공시 문서이기도 해서, 일부 논평가는 이를 시장을 향한 커뮤니케이션으로도 읽는다. 추정치는 Anthropic의 것이며 제3자가 검증하지 않았다. TechCrunch 등 여러 매체에 따르면 S-1/A는 여전히 공모가 범위를 비워 두었고, 예정된 티커는 Nasdaq Global Select Market의 ANT다.

재귀적 자기 개선은 보통 에세이와 학회에서 만나는 주제다. 그것이 여기서는 아직 비어 있는 공모가 범위 옆, 투자설명서의 위험 요인 목록에 등장한다. 회사는 임계점이 곧 올 수 있다고 말하면서도, 제시하는 해법은 아직 검토 중인 정책 개정이다. RSP 개정안이 나온다면, 보통 각주에 기울이는 것과 같은 주의를 기울여 읽겠다. — Olya