지난 4월 24일 DeepSeek가 V4를 풀었다. 이번에 충격을 준 건 점수보다 세 가지 결합이다 — frontier급 코드 성능, 1M 토큰 컨텍스트, 그리고 MIT 라이선스(상업 이용·재배포·수정 모두 자유로운 가장 관대한 오픈소스 라이선스). 한국 개발자·기업 입장에선 “오픈웨이트로 얼마나 frontier에 붙었나"가 한 번 더 명확해진 사건이다. 특히 가격이 무섭다. V4-Pro는 출력 1M 토큰당 $0.87(75% 할인 적용), Claude Sonnet 4.6의 $15, GPT-5.5의 $30과 비교하면 약 1/17~1/35 수준이다. 같은 Tier에서 가격을 이렇게 깎아도 코드/추론 일부 벤치마크는 frontier 두 모델을 앞선다. ...
지난 1년 LLM 업계의 합의는 분명했다. “스케일을 키우려면 MoE(Mixture of Experts, 모델 안에 여러 전문가 sub-network를 두고 입력마다 일부만 활성화하는 아키텍처).” DeepSeek-V3, Mixtral, Qwen MoE 시리즈가 차례로 활성 파라미터(매 입력에 실제 사용되는 파라미터) 수십억을 유지하면서 총 파라미터 수백억~수천억대를 굴리는 구조를 굳혀왔다. 그런데 IBM이 어제(4월 30일) Granite 4.1을 풀면서 정반대 베팅을 공개했다 — decoder-only dense transformer(모든 파라미터가 매 입력에 활성화되는 전통 아키텍처, GPT/Llama 같은 형태). 흥미로운 건 결과다. 8B dense 모델이 같은 회사의 32B MoE 모델(Granite 4.0-H-Small)을 BFCL V3(Berkeley Function Calling Leaderboard, 함수 호출 능력 벤치마크)에서 68.3 vs 64.7로 +3.6점 앞섰다. ArenaHard(사용자 선호 기반 종합 벤치마크)에서도 69.0을 기록해 같은 32B MoE를 능가했다. GSM8K(초등 수학) 92.5, DeepMind-Math(고난도 수학) 80.1로 수학 추론도 단단하다. 30B 모델은 BFCL V3 73.7로 Gemma-4-31B(72.7)를 상회한다. ...