최첨단 AI 모델은 작년 대비 2/3 더 똑똑해졌지만, 실제로는 저가 모델이 84% 토큰 점유율을 차지합니다. 성능과 가격의 파레토 최적점을 분석합니다.
AI 모델의 현실: 최첨단이 아닌 모델이 84% 사용되는 이유
핵심 요약
- 최첨단 AI 모델은 작년 11월 대비 2/3 더 똑똑해졌으나, 연구소들은 3일마다 2개 모델을 출시하는 과속 경쟁 상황
- OpenRouter 트래픽의 84%는 최첨단 모델이 아닌 저가 모델에서 발생
- 상위 6개 모델이 전체 토큰의 80% 차지하며, Claude Fable 5 대비 2.5% 가격으로 77% 성능 제공
- 개발사들은 성능보다 가격을 우선시하는 파레토 최적점으로 이동 중
- 최첨단 모델은 소프트웨어 아키텍처, 보안 설계 등 고부가 작업에만 실질적 우위
AI 성능의 급속한 진화, 그러나 현실은 다르다
최첨단 AI 모델의 능력은 놀라운 속도로 향상되고 있습니다. 작년 11월 이후 최첨단 모델의 성능은 2/3 수준 향상되었으며, 이러한 개선 속도는 계속 유지되고 있습니다. 실제로 주요 연구소들은 평균적으로 3일마다 2개의 새로운 모델을 출시 하고 있어, 월 평균 약 20개의 신규 모델이 쏟아져 나오는 상황입니다.
그러나 실제 사용 데이터는 흥미로운 역설을 드러냅니다.
사용 현실: 84%가 최첨단이 아닌 모델을 선택
OpenRouter의 사용 데이터를 보면 놀라운 사실이 드러납니다. 토큰 사용량의 84%는 최첨단 모델이 아닌 다른 모델들 에서 발생하고 있습니다.
이는 단순한 통계가 아니라, 실제 시장 수요가 최첨단 성능보다 가성비를 더 중요시 함을 의미합니다. 사용자들이 대부분의 토큰을 생성하기 위해 선택하는 상위 6개 모델을 살펴보면 이 현실이 더욱 명확해집니다.
가성비 킹: 상위 6개 모델의 압도적 우위
8월 10일 주에 상위 6개 모델이 전체 토큰 볼륨의 80%를 차지 했습니다. 이들의 혼합 가격은 백만 토큰당 0.50달러 인 반면, 최고가 모델인 Claude Fable 5는 20달러 에 달합니다. 즉, 2.5% 가격 으로 77% 성능 을 제공하는 셈입니다.
흥미롭게도, Fable 5는 훨씬 더 비싼 가격에도 불구하고 7월에 OpenAI의 최고가 모델인 GPT-5.6 Sol이 창출한 모델 귀속 매출의 약 75% 수준만 생성했습니다. 이는 가격 인상이 시장 점유율 유지에 얼마나 큰 영향을 미치는지 보여줍니다.
성능 격차는 점점 좁혀지고 있다
최고 성능 모델과 차위 모델들의 격차는 지속적으로 감소 중입니다. 매 분기마다 인공지능 분석 점수(AI Analysis points)가 크게 상승하고, 그 사이에는 작은 단계들이 격차를 메우고 있습니다.
특히 오픈 소스 모델의 약진이 두드러집니다. 최고의 오픈 웨이트 모델은 1년 전 선두 모델 점수의 48%에서 5월에는 80%까지 도달 했습니다. 이는 오픈 소스 에코시스템이 급속도로 성숙해지고 있음을 시사합니다.
실제 시장의 선택: 가격이 성능을 이긴다
시장 데이터는 명확합니다. 개발사들과 스타트업들은 더 작은 모델, 미세 조정된 모델, 오픈 소스 모델을 기본값으로 사용 하고 있습니다. 이들은 성능보다 가격을 우선시하는 다른 파레토 최적점 을 기준으로 최적화하고 있는 것입니다.
예외가 있습니다. 소프트웨어 엔지니어링 아키텍처 설계와 보안 설계와 같이 최고 성능이 필수적인 분야에서는 최첨단 모델의 가격이 정당화됩니다. 하지만 대다수의 애플리케이션 배포 사례에서는 이 예외가 적용되지 않습니다.
결론
AI 모델 시장은 이중 구조로 진화하고 있습니다. 최첨단 모델은 계속 진화하고 있지만, 실제 트래픽과 지출은 '충분히 좋은' 모델들에 집중 되고 있습니다. 억 단위의 훈련 비용을 정당화하려면 충분한 시장 점유율이 필요하지만, 점유율 이동이 둔화되면서 그 기준은 점점 높아질 것입니다. 개발자와 기업들의 현명한 선택은 이미 시작되었습니다.
Original source: Honestly, Who Buys SOTA?
powered by osmu.app