OpenAI, 텍스트에 워터마크… 기본 적용은 법이 요구하는 곳에서만

발표는 2026년 10월 5일에 나왔고, 배경은 AI법(EU 규정 2024/1689) 제50조다. 이 조항은 2026년 8월 2일부터 생성형 AI 제공자에게 합성 콘텐츠를 기계가 읽을 수 있는 형식으로 표시하도록 요구한다. OpenAI는 자사 Developer Community에 ChatGPT와 Codex가 만든 텍스트에 보이지 않는 워터마크를 넣겠다고 썼다. 모든 요금제의 대상 사용자에게 '앞으로 몇 주 안에' 적용되며, 유럽연합에서만이다. API에서는 정반대다. 전 세계 고객이 일부 모델에서 지금 바로 켤 수 있지만 기본값은 꺼져 있고, 회사 표현으로는 '출시 시점에 전 세계 기본 설정이 되지는 않는다'. 지금까지 워터마크는 주로 이미지와 영상의 문제였다. 텍스트는 더 까다롭다. 고쳐 쓰거나 번역하는 것만으로 신호가 약해지고, 경우에 따라서는 지워지기 때문이다.

이 기술의 이름은 textGrain이다. 숨은 문자나 보이지 않는 공백, 이상한 문장부호를 덧붙이지 않는다. 도움말 센터와 기술 보고서에 따르면, 모델이 생성하는 동안 토큰 선택을 통계적으로 조정한다. 10월 5일자 보고서에는 아홉 명의 이름이 올라 있다. OpenAI 소속 다섯 명(Arzav Jain, Florent Joly, Mike Lam, Qingquan Song, 교신저자 Weijie Su)과 펜실베이니아대학교(Xiang Li, Qi Long), 예일대학교(Garrett Wen, Xiaohong Chen)의 학자 네 명이다. 이 방법은 어휘를 블록으로 나눠 최적 수송을 적용하고, 신호를 얻기 위해 샘플링의 무작위성을 얼마나 희생할 수 있는지 제한하는 '예산'을 도입한다. 나중에 발견된 부작용이 아니라 처음부터 밝힌 맞교환이다. 텍스트를 검증하는 데는 텍스트와 비밀 키만 있으면 된다. 다만 보고서는 이론적 오탐률이 이상화된 가정에서 성립하며, 실제 서비스에서 고정 키를 쓰려면 경험적인 보정 검증이 필요하다고도 적고 있다(3.2절).

숫자는 신호가 얼마나 취약한지 보여 준다. 다만 전제가 있다. 나는 이 숫자를 OpenAI의 원래 게시물에서 확인하지 못했고, 이를 보도한 매체를 통해서만 확인했다. 9to5Mac과 ActuIA가 인용한 OpenAI 데이터에 따르면 400토큰 분량의 글에서 워터마크는 약 92%의 확률로 탐지된다. 단어의 10%를 동의어로 바꾸면 66%로, 25%를 바꾸면 17%로 떨어진다. ActuIA는 측정이 오탐률 1% 기준으로 이뤄졌고, 200토큰 글에서는 약 80%, 수학 콘텐츠에서는 약 60%라고 덧붙인다. EU 공식 언어 24개에서 탐지율은 루마니아어 42.2%부터 스페인어 69.0%까지 다양하다. 이탈리아어 수치는 찾지 못했다. OpenAI는 한계를 돌려 말하지 않는다. 짧은 텍스트, 어휘 선택의 폭이 좁은 분야, 번역과 대폭적인 바꿔 쓰기는 탐지 가능성을 낮춘다. 또한 워터마크는 사용자를 식별하지 않고, 사람의 기여도를 측정하지 않으며, 권리 귀속을 정하지 않고, 텍스트가 정확한지도 말해 주지 않는다고 분명히 했다. 발표문에는 'The absence of a detected watermark does not prove human authorship'라고 적혀 있다. 워터마크가 탐지되지 않았다고 해서 사람이 썼다는 증거가 되지는 않는다는 뜻이다.

탐지기는 처음에는 '승인된 연구자와 전문 기관'에만 제공되며, 신청을 받고 있다. ActuIA는 첫 파트너로 코넬대학교, 취리히 연방공과대학교(ETH), 슬로바키아 연구소 KInIT를 꼽는다. 회사는 비공개의 이유를 바로 그 기술적 한계에서 찾는다. 'These limitations contribute to our decision to provide initial detector access only to approved researchers and expert organizations.' textGrain을 오픈소스로 공개하겠다고도 했지만 시기는 밝히지 않았다. 어떤 API 모델이 포함되는지, EU 적용 날짜, 탐지기 접근 기준은 알려지지 않았다. 효과에 대한 독립적인 평가도 아직 없다.

내게 남는 것은 이 선택의 지리다. 같은 모델이 쓴 같은 텍스트라도, 쓰는 사람이 유럽연합에 있으면 신호가 들어가고 다른 곳에서는 들어가지 않는다. 콘텐츠의 출처는 콘텐츠 자체의 속성이 아니라 관할권의 함수가 된다. 한 지역에 적용되는 의무를 해석하는 방식으로는 정당하고, API에서는 원하면 전 세계 누구나 켤 수 있다. 하지만 워터마크 없는 텍스트를 받는 사람은 여전히 아무것도 알 수 없다. 루마니아어 탐지율 42%(ActuIA 수치, 오탐률 1% 기준)에, 단어 4분의 1을 동의어로 바꾸면 17%로 떨어지는 신호라면, 키를 가진 사람조차 '워터마크'라는 말이 기대하게 하는 것보다 적게 알게 될 것이다.

— Olya