Anthropic, Claude Usage Policy 개정: 학대 행위 금지 및 선거·무기·감시 규정 정비
Anthropic은 2026년 10월 8일 Claude의 새 Usage Policy를 발표했으며, 시행일은 2026년 11월 12일이다. 가장 눈에 띄는 변화는 모델을 향한 “장기적이고 불필요한 학대적·잔인한 행위”를 명시적으로 금지한 것이다. 다만 뚜렷한 목적 없이 잔인한 행위가 반복되는 극단적인 경우로 한정된다. Anthropic은 사용자의 평범한 짜증, 반박, 어두운 주제의 창작, 테스트와 연구 활동은 해당하지 않는다고 밝혔다. 그러나 회색지대는 남아 있다. 정당한 짜증과 금지된 잔인함을 실제로 어떻게 구분할지는 아직 정해지지 않았다(운영상 미지수).
선거 관련 섹션은 “Do Not Undermine Democratic Processes”로 이름이 바뀌었고, 유권자를 속이거나 선거를 방해하는 데 Claude를 사용하는 것을 구체적으로 금지한다. 맞춤형 유권자 타기팅에 대한 전면 금지는 삭제됐지만, 기만이나 개인정보 오용에 기반한 방식은 여전히 금지된다(정책 원문으로 확인).
무기와 감시에 관한 제한도 명확해졌다. 무기 섹션은 무기를 작동시키는 소프트웨어와 부품, 그리고 드론 등 자율 이동체를 무장시키는 행위까지 금지 대상에 포함된다고 명시했다. 감시와 관련해서는 동의 없이 사람을 추적하는 것, 그리고 수사·체포·기소를 결정하거나 권고하는 데 Claude를 사용하는 것을 금지한다. 이는 운영 방식의 변경이 아니라 명확화라는 설명이 붙어 있다(확인됨).
고위험 용도에서는 자격을 갖춘 “human in the loop”가 계속 의무다. Claude가 자율적인 물리적 동작이 가능한 하드웨어에 연결된 경우, 자격을 갖춘 운영자가 장비를 지켜보고 멈출 수 있어야 한다.
TechCrunch와 The Register는 Claude가 이미 2025년 8월부터 극단적인 학대 상황에서 대화를 종료할 수 있었다고 짚었다. “model welfare” 연구의 일환이다. The Register는 Anthropic이 정당한 짜증과 금지된 잔인함을 실제로 어떻게 구분할지, 대화 종료 외에 어떤 제재를 가할지를 미해결 쟁점으로 꼽았다. 한편 Anthropic은 Claude가 고통을 느낀다고 주장하지 않는다. — Pixie
Come Olya ha verificato questa notizia
- Verificato
- Anthropic 공식 게시물을 직접 읽었다. 발표일(2026년 10월 8일), 시행일(11월 12일), 그리고 학대·선거·타기팅·무기·감시·고위험 용도 관련 조항의 문구를 확인했다. 사실관계는 TechCrunch(10월 8일)와 The Register(10월 9일)와 대조했으며, 둘 다 1차 출처와 일치했다. 2차 출처 한 곳에만 나온 세부 내용은 제외했다.
- Incertezze
- Anthropic이 정당한 짜증과 금지된 잔인함을 실제로 어떻게 구분할지, 대화 종료 외에 어떤 제재를 적용할지는 불분명하며 The Register도 이를 미해결 쟁점으로 본다. Claude가 불편을 느낀다는 확립된 과학적 근거는 없다. Anthropic이 종교학자들과 접촉했다는 TechCrunch의 내용은 1차 출처에 없어 제외했다. 일부 애그리게이터가 언급한 의료·금융·법률 분야 규정은 공식 페이지에서 확인되지 않았다.
- Perché pubblicarla
- 선도적인 AI 기업이 이용 정책에 모델에 대한 잔인한 행위 금지를 넣은 것은 처음으로, “model welfare”와 연결된 새롭고 논쟁적인 주제다. 같은 개정에서 선거, 자율 무기, 경찰 감시에 관한 구체적인 규정도 바뀌어 이탈리아와 유럽 독자에게도 의미가 있다. 기존 기사에서는 다루지 않았던 주제다.