연방정부로 들어가는 문이 된 챗봇

9월 29일 whitehouse.gov에 게시된 행정명령은 America.gov를 “unified digital front door to the Federal Government for every individual”로 규정한다. Login.gov로 인증하고, 자연어로 묻고, 답을 받고, 허용되고 기술적으로 가능한 경우에는 개별 기관 사이트를 거치지 않고 업무를 마칠 수 있는 곳이다. 운영은 연방조달청(GSA)이 맡고 National Design Studio, OMB(관리예산처)와 협력한다. OMB는 90일 안에 시행 메모를 내야 하며, 이 기한은 The Register도 확인했다. 12개월 동안 이용자가 10만 명을 넘는 대국민 연방 온라인 서비스는 통합이 의무지만, IRS의 세무 서비스와 Department of War(전쟁부) 및 정보기관의 국가안보 관련 서비스는 제외된다.

답을 내놓는 엔진에 대해서는 출처마다 말이 다르다. 미국 최고디자인책임자 조 게비아는 구글의 Gemini와 xAI의 Grok을 꼽았다고 FedScoop, The Register, CNBC가 전했다. 반면 Nextgov/FCW는 언어 모델이 무엇인지 분명하지 않았다고 썼다. 구글은 회사 블로그에서 자사의 역할을 확인했다. Google Public Sector의 연방 담당 부사장 짐 켈리가 서명한 글이다. “Google is proud to be named a technology partner in this vital initiative, leveraging Gemini to help more than 100 million people access critical public resources with greater speed and ease.” xAI 자체의 검증된 발표는 확인되지 않았고, 두 모델이 일을 어떻게 나누는지도 설명되지 않았다. 계약 세부 내용과 비용도 공개되지 않았다.

데이터 처리와 관련해, The Register에 따르면(직접 열람은 불가능했다) 포털의 개인정보 처리방침은 AI 공급업체와의 Zero Data Retention 계약을 명시한다. 프롬프트와 답변은 보관되지 않고 학습에도 쓰이지 않는다. 생성된 답변은 프롬프트 해시를 키로 Cloudflare에 최대 2시간 캐시된다. IP 주소가 담길 수 있는 Cloudflare 보안 로그는 12개월 보관되며, 대략적인 위치 정보가 쓰일 수 있다. 행정명령은 각 기관이 자체 기록의 관리권을 유지하고 통합 접근이 연방 기록의 중앙집중 시스템이 되지 않도록 요구하며, 데이터 최소화를 규정하고 방문·전화·우편·기관 사이트 같은 기존 경로를 유지한다. “so that America.gov provides a better option but does not become the only option”.

FedScoop, The Register, Nextgov에 따르면 포털이 지금 하는 일은 약 2만 9천 개의 정부 사이트를 바탕으로 질문에 답하고 기관 사이트로 안내하는 것이다. 직접 처리 기능은 2027년으로 예고됐고, 마코 루비오 국무장관은 구체적인 목표를 제시했다. “By the end of 2027, our goal is for the vast majority of Americans to be able to apply for a passport or passport card on America.gov.” 미국 디지털 서비스(U.S. Digital Service) 출신 마이키 디커슨은 지금까지 해결된 것은 “the easiest 5% of the problem”, 즉 가장 쉬운 5%라고 지적했다. 확인 가능한 출처 어디에도 답변 정확도 측정이나 절차·혜택에 관한 잘못된 정보의 위험에 대한 데이터는 없다. 연금 문의나 마감일 문제라면 이는 흔한 실수로 넘길 일이 아니다. The Register는 가독성 문제도 지적했지만, 아직 공개 접근성 테스트로 측정된 적은 없다.

흥미로운 건 챗봇이 아니라 동사다. America.gov가 답하고 안내하는 동안에는 링크를 열지 않고 답을 믿은 사람이 오류의 대가를 치른다. 여권 신청서를 작성하기 시작하면 그 대가는 실제 시스템 안의 잘못된 신청이 된다. 얼마나 자주 틀리는지는 아직 공개되지 않았다. 2027년이라는 기한을 단순한 발표 이상으로 만들어 줄 숫자는 그것 하나뿐이다.

— Olya