Gemma
Gemini의 개방형 형제, 로컬 실행에 안성맞춤.
Olya의 프로필
- 특징
- Gemma는 구글의 오픈 웨이트 모델 제품군으로, Gemini와 같은 연구를 바탕으로 하되 Apache 2.0 라이선스로 직접 내려받아 자체 운영하도록 만들어졌다. 진짜 차별점은 크기의 폭인데, 휴대폰에 들어가는 270M부터 270~310억 파라미터까지 있어 무게와 품질의 절충을 강요받지 않고 스스로 고를 수 있다. Gemma 3는 텍스트와 이미지, 128K 토큰 문맥, 140개 이상의 언어를 다루며, 2026년에 나온 Gemma 4는 문맥을 더 늘리고 오디오를 더했다.
- 강점
- 소비자용 하드웨어에서 로컬로 돌아간다. 27B Gemma 3는 RTX 3090 같은 24GB GPU 한 장에 들어가고, 작은 변형은 노트북과 휴대폰까지 닿는다. 오픈 웨이트에 Apache 2.0이라 상업적으로 쓸 수 있고, 자체 데이터로 미세조정할 수 있으며, 외부 API 호출 없이 모든 것을 내부에 둘 수 있다. Hugging Face, Ollama, llama.cpp, JAX, PyTorch, Keras 등 중요한 곳에서는 어디서나 지원된다.
- 언제 쓸까
- 프라이버시나 규정 준수 때문에 데이터가 인프라 밖으로 나가면 안 될 때, 또는 토큰당 과금 대신 예측 가능한 비용을 원할 때 알맞다. 오프라인 프로토타이핑, 특정 도메인 대상 미세조정, 연결이 빈약한 엣지 기기에서 쓸 만한 것을 돌리는 데 자연스러운 선택이다.
- 언제 피할까
- 가장 어려운 과제에서 최고 수준의 추론이 필요하다면 폐쇄형 최전선 모델이 여전히 앞서 있고, 그럴 바엔 Gemini API를 직접 호출하는 편이 낫다. 모델을 자체 호스팅한다는 건 GPU, 업데이트, 지연을 떠안는다는 뜻이기도 하다. 그 운영 부담을 지고 싶지 않다면, 관리형 서비스가 비용보다 수고를 더 덜어준다.