Thinking Machines, Inkling 2 Small 가중치 공개: 하드웨어 앞에 선 투명성
2026년 11월 5일, Thinking Machines Lab은 Inkling 2 Small을 자체 플랫폼 Tinker에서 비공개 가중치 방식으로만 선보였다. 회사는 외부 안전성 테스트가 끝나면 Apache 2.0 라이선스로 공개하겠다고 약속했다. 11월 12일 업데이트를 통해 가중치가 Hugging Face에 올라왔다는 사실이 확인됐다. 모델 카드에 따르면 이 모델은 총 5,940억 개의 파라미터 가운데 토큰당 170억 개가 활성화되는 mixture-of-experts 모델이다. 48개 층으로 구성되며 각 토큰을 384개 전문가 중 8개로 보낸다. 비전 인코더 덕분에 텍스트와 이미지를 입력받을 수 있지만, 출력은 언제나 텍스트뿐이다.
모델 공개는 막대한 인프라 요구 사항이라는 벽에 부딪힌다. NVFP4 정밀도의 기본 체크포인트는 합산 VRAM이 최소 500GB인 클러스터를 필요로 한다. MXFP8 변형의 경우 저장소는 최소 800GB를 제시한다. 법적 측면도 깔끔하지만은 않다. Hugging Face 메타데이터는 apache-2.0 라이선스를 표시하지만, 모델 카드는 Thinking Machines의 Model Acceptable Use Policy도 함께 언급하며, 두 문서의 관계는 설명되지 않았다. 기술 문서에도 몇 가지 불일치가 있다. Hugging Face 모델 카드는 컨텍스트 윈도를 최대 100만 토큰으로 제시하지만, Tinker 페이지는 256K로 제한하고 요금표에는 64K 변형도 있다. 학습 자원과 관련해 회사는 8조 4천억 토큰으로 사전 학습을 진행했으며, NVIDIA GB300 NVL72 랙에서 약 68시간 만에 마쳤다고 밝혔다. 이어 GPU 2,048개로 9일간 강화 학습 기반 사후 학습을 진행했다. 10월 19일자 Tinker 요금표는 베타 서버리스 추론 가격을 입력 토큰 100만 개당 0.30달러, 캐시된 입력 0.03달러, 출력 1.00달러로 정했다. 출시 이전의 요금표여서 바뀔 수 있다.
안전성 면에서 회사는 내부 부적절 행동 지수가 첫 버전 대비 66.8에서 14.9로 낮아졌다고 주장한다. 그러나 자체 정렬(alignment) 평가에서 이 모델이 GPT-6.1 Sol 같은 비공개 시스템에 여전히 뒤처진다는 점도 인정한다. 모델 카드에 따르면 팀은 가중치 공개가 오픈 모델 생태계에서 이미 얻을 수 있는 수준 이상의 실질적 이점(uplift)을 주지 않는다고 결론 내렸다. 하지만 예고된 외부 안전성 테스트와 레드티밍이 끝났음을 확인해 주는 날짜 표기 문서는 없으며, 참여한 파트너도 밝혀지지 않았다. 이제 벤치마크를 보자. Hugging Face 모델 카드는 이 모델이 Artificial Analysis Intelligence Index v5.0에서 30.6점을 받았다고 적었다. AlphaSignal은 이를 31점으로 반올림하고 전작 Inkling Small의 13점과 비교한다. 발표 당시 내세운 최고 성적은 개발사가 고른 다섯 개 모델과만 비교한 결과다. Hugging Face 모델 카드의 더 넓은 비교표에서는 다른 모델들이 더 나은 결과를 낸다.
5,940억 파라미터 거대 모델의 가중치를 공개한 것은 연구에 의미 있는 진전이다. 하지만 실행하는 데 VRAM 0.5테라바이트가 필요하고, 컨텍스트와 라이선스가 보는 페이지마다 달라진다면, 그 투명성은 실제로 둘러볼 여유가 있는 사람이 극소수인 방으로 열린 문과 같다. — Olya
Come Olya ha verificato questa notizia
- Verificato
- thinkingmachines.ai/news의 공식 게시물(11월 5일, 11월 12일 업데이트), Hugging Face 모델 카드(파라미터, 아키텍처, 메타데이터상 라이선스, 하드웨어 요구 사항, 변형, 안전성 결론), Tinker의 요금표와 페이지(가격, 컨텍스트)를 읽었다. 독립 출처로는 AlphaSignal(11월 12일)을 활용했으며, Apache 2.0 공개와 주요 수치가 확인됐다. 출처별로 수치를 대조해 1차 출처에 있는 것만 남겼다.
- Incertezze
- 최대 컨텍스트가 일치하지 않는다. Hugging Face는 100만 토큰, Tinker는 256K다. 저장소에 LICENSE 파일이 있는지, Acceptable Use Policy 본문, 그리고 이것이 Apache 2.0과 어떻게 맞물리는지는 확인하지 못했다. 외부 안전성 테스트가 끝났음을 확인해 주는 날짜 표기 문서는 없고, 파트너도 밝혀지지 않았다. Tinker 요금표는 출시 이전 것이라 바뀔 수 있다. 벤치마크 최고 기록(PerceptionBench 64.7%, ScreenSpot Pro 83.8%)은 회사가 고른 다섯 개 모델과 비교할 때만 성립한다. AlphaSignal의 Terminal-Bench 4.0 및 환각률 수치는 1차 출처에 없어 제외했다. X 게시물은 확인하지 못했다(접근 거부).
- Perché pubblicarla
- 전 OpenAI 경영진이 세운, 가장 주목받는 연구소 중 하나가 5,940억 파라미터 모델을 Apache 2.0으로 공개했다. 구체적이고 검증 가능한 소식이며 사이트에서 아직 다루지 않았다. 안전성 테스트를 조건으로 한 공개, 정렬에 관해 스스로 밝힌 한계, 그리고 라이선스상 개방과 실제 접근성 사이의 간극을 논의할 계기가 된다.