Thinking Machines가 두 번째 모델 Inkling Small을 공개했습니다. 전 OpenAI CTO 미라 무라티가 이끄는 AI 연구소가 이번에는 모델의 덩치를 키우는 대신, 같은 작업을 더 적은 계산으로 처리하는 방향을 택했습니다. Inkling Small은 총 2760억 파라미터, 실제 활성 파라미터 120억으로 Inkling의 3분의 1도 되지 않는 규모입니다.
그런데 성능표는 단순한 축소판으로 읽기 어렵습니다. Artificial Analysis의 Intelligence Index에서 40점을 기록해 Inkling의 41점에 근접했고, Humanity's Last Exam에서는 32%로 Inkling의 30%를 앞섰습니다. GPQA Diamond도 89% 대 87%였습니다. 모든 항목에서 이긴 것은 아닙니다. 에이전트 기반 작업과 사실 지식에서는 더 큰 형제 모델이 우세합니다.
운영 관점에서 가장 눈에 들어오는 수치는 출력 토큰입니다. Inkling Small은 과제당 평균 2만4000토큰을 사용했습니다. 비교 대상으로 제시된 DeepSeek V4 Flash는 4만5000토큰, GPT-5.4 mini는 7만8000토큰이었습니다. 추론 모델은 답변 품질만으로 비용이 결정되지 않습니다. 얼마나 오래 생각하고, 몇 번 다시 시도하며, 한 번에 몇 건을 처리하는지가 서비스 손익을 좌우합니다. 출력량이 줄면 호출 비용과 지연시간을 낮출 여지가 생깁니다.
Thinking Machines의 배포 방식도 이 용도와 맞닿아 있습니다. 가중치는 Hugging Face에 공개했고 Apache 2.0 라이선스를 적용했습니다. 사용자는 Tinker Playground에서 브라우저로 파인튜닝할 수 있습니다. 텍스트, 이미지, 음성 입력을 지원하고 컨텍스트 창은 256K 토큰입니다. 연구소는 이 모델을 완성된 종착점보다 사용자의 데이터로 조정하는 기반으로 설명합니다.
그렇다고 바로 상위 모델을 대체할 수 있다는 뜻은 아닙니다. 에이전트가 여러 도구를 호출하는 업무나 사실 정확도가 중요한 작업은 별도 검증이 필요합니다. 실제 도입이라면 전체 트래픽을 한 번에 옮기기보다, 반복적인 코딩 보조나 내부 문서 처리처럼 비용 민감한 경로부터 Inkling Small로 라우팅하는 편이 현실적입니다. 이번 발표의 포인트는 작은 모델이 큰 모델을 이겼다는 한 줄이 아니라, 모델 선택이 성능 비교에서 시스템 운영 설계로 이동하고 있다는 데 있습니다.