Llama
수천 개의 독립 프로젝트를 떠받치는 오픈웨이트 제품군.
Olya의 프로필
- 특징
- Llama는 서비스가 아니라 가중치를 내려받을 수 있는 모델군이다. Meta의 API를 거치지 않고 자신의 하드웨어나 원하는 제공업체에서 직접 돌린다. '오픈'이라는 말에는 주의가 필요하다. 이는 오픈웨이트이지 엄밀한 의미의 오픈소스가 아니며, 월간 7억 사용자를 넘는 쪽에는 별도의 라이선스 합의를 요구한다. 단일 벤치마크가 아니라 바로 이 접근성이 파인튜닝과 독립 프로젝트의 사실상 표준으로 만들었다.
- 강점
- 최신 세대인 Llama 4 Scout와 Maverick(2025년 4월)은 mixture-of-experts 구조를 쓴다. 총 1090억·4000억 파라미터 중 토큰당 활성 파라미터는 170억으로, 적당한 연산 비용에 좋은 성능을 내며 Scout는 양자화하면 H100 GPU 한 장에 들어간다. 둘 다 텍스트와 이미지를 다루는 네이티브 멀티모달이고, Scout는 최대 1천만 토큰의 컨텍스트 창을 내세운다. 주변에는 현존 최대 규모의 생태계가 있다. 로컬 도구, 최적화 버전, 모든 용도를 아우르는 커뮤니티가 갖춰져 있다.
- 언제 쓸까
- 통제를 원할 때 값어치를 한다. 데이터를 내부에 두고, 온프레미스나 자체 호스팅으로 실행하며, 단일 벤더에 묶이지 않는 구성이다. 특정 도메인에 파인튜닝하거나 호출마다 과금 없이 제품을 만들려는 경우의 자연스러운 선택이다. 모델을 들여다보고 손댈 수 있어 학습용으로도 좋다.
- 언제 피할까
- 인프라를 관리하고 싶지 않다면, 닫혀 있고 바로 쓸 수 있는 API가 결과에 더 빨리 도달하게 해준다. 거대한 컨텍스트 창은 헤드라인용 수치다. 긴 문서에서의 실제 성능은 당연하게 여기지 말고 자신의 사례로 검증해야 한다. 그리고 Meta의 오픈 의지도 지켜볼 일이다. 2026년에 새 Llama는 나오지 않았고 회사는 가중치를 닫은 모델로 방향을 틀었다. 앞으로의 길은 보이는 것만큼 확정적이지 않다.