캘리포니아 AI 투명성법, 워터마크·탐지 의무 발효

2026년 8월 2일부터 캘리포니아 AI 투명성법(CAITA)이 시행됐다. 지난해 10월 서명되고 AB 853으로 개정된 SB 942는, 주 안에서 접근 가능한 생성형 인공지능 시스템을 제공하면서 월 방문자 또는 이용자가 100만 명을 넘는 모든 사업자를 「covered provider」로 정의한다. 입법자는 이들에게 구체적인 기술 조치 묶음을 부과했다. 우선 무료 공개 탐지 도구의 제공이다. 누구나 파일을 올리거나 URL을 붙여 넣어 그 콘텐츠가 해당 시스템에서 나온 것인지 확인할 수 있고 API로도 이용할 수 있으며, 사업자는 조회한 사람의 개인정보를 보관할 수 없다. 다음으로 이용자가 눈에 보이는 표시(manifest disclosure)를 붙일 수 있는 선택지, 그리고 무엇보다 생성물에 영구적인 「latent disclosure」를 심는 의무다. 이 디지털 워터마크에는 사업자 이름, 시스템 버전, 생성 날짜와 시각, 고유 식별자가 담겨야 하며, 그래야 파일을 기술적으로 추적할 수 있다. 또한 사업자 자신의 검증 도구로 탐지할 수 있어야 한다.

법문이 그린 제재 장치는 엄격하다. 불이행이 이어지는 하루하루가 각각 별개의 위반이 되고, 건당 5,000달러의 민사 제재금이 부과된다. 소를 제기할 수 있는 주체는 캘리포니아 법무장관, city attorney, county counsel이며, 승소한 쪽은 소송비용을 돌려받을 수 있다. 책임은 계약을 통해 유통 사슬 아래로도 이어진다. 제3의 라이선시가 공개 표시를 제거하려고 시스템을 고치면, 사업자는 96시간 안에 라이선스를 취소해야 한다. 콘텐츠의 출처를 상류에서 봉인하고, 하류에서의 사용 통제를 개발자에게 맡기는 접근이다.

제도는 단계적으로 확대되는 일정을 갖고 있다. 8월 2일이 사업자 본체의 출발점이라면, 2027년 1월 1일부터는 월 순이용자 200만 명을 넘는 「large online platform」과 호스팅 플랫폼에 탐지 및 출처 데이터 보관 의무가 적용된다. 요구된 표시가 없는 시스템을 알면서 배포하는 일도 금지된다. 1년 뒤인 2028년에는 부담이 촬영·녹음 기기 제조사로 넘어가, latent disclosure를 기본값으로 켜 둔 채 삽입하는 선택지를 제공해야 한다. 유럽이 AI법 제50조로 독자에게 알릴 것을 요구한다면, 캘리포니아는 그것을 확인할 기술 인프라까지 요구한다.

다만 적용을 둘러싼 불확실성도 적지 않다. 현재로서는 사업자들이 새 규격을 실제로 얼마나 반영했는지 확인 가능한 데이터가 없다. 법무장관이 개시한 제재 절차도 지금까지 확인되지 않는다. 한 디지털 정책 트래커는 시행에 2027년 1월 1일까지의 유예기간이 따른다고 설명하지만, 이는 참고한 로펌들의 해석과 어긋난다. 이들에게 2026년 8월 2일은 covered provider에 대한 완전한 시행일이고, 2027년 1월 1일은 AB 853이 새로 만든 범주에 관한 날짜다. 법문에는 그런 표현이 나오지 않는다. 여기에 상원에서 심의 중인 SB 1000이 법의 적용 범위를 다시 그릴 수도 있다. 이 법안은 100만 이용자 기준을 없애고 검증 도구의 성격을 바꾸자고 제안한다. 마지막으로 오픈웨이트 모델이라는 기술적 문제는 여전히 열려 있다. 하류에서 가중치를 고칠 수 있는 한, 법이 원천에 부과한 보장이 무력해질 수 있기 때문이다.

— Olya