Microsoft CEO 사티아 나델라가 하드포크 인터뷰에서 흥미로운 자백을 했다. 모든 문제에 최상위 AI 모델을 던지는 "token-maxing" 습관에 대해 "나도 token-maxer다. 중독성이 있다"고 인정한 것이다. 자기 회사의 핵심 매출원이 토큰 소비라는 점을 떠올리면 묘한 발언이다.
그런데 같은 인터뷰에서 그는 정반대 경고를 동시에 던졌다. "냉정한 진실은, 생산성 향상의 한계비용이 토큰의 한계비용과 맞아야 한다는 것"이라는 문장이다. 프런티어 모델을 일상 업무에 쏟아붓는 건 회계가 맞지 않고, 순수한 token-maxing만으로는 실질 경제성장이 나오지 않는다는 진단이다. AI 인프라에 가장 크게 베팅한 회사의 수장이, 그 인프라의 무차별 소비를 만류하는 그림이다.
동시에 그가 그리는 개발자의 미래상은 결국 토큰을 더 태우는 쪽으로 향한다. 사람은 코드를 직접 쓰지 않는다. 수백, 수천 개의 에이전트를 감독한다. 새 코어 스킬은 "cognitive coverage" — 에이전트가 작성한 코드를 인지적으로 따라잡는 능력이다. "내 레포는 에이전트가 쓴 코드로 가득하다. 나는 거기서 무슨 일이 벌어졌는지 인지적으로 이해하고 있다." CS 교육은 여전히 필요하지만, 일의 형태는 코드 작성에서 코드 검수와 에이전트 라우팅으로 옮겨간다는 얘기다.
두 메시지가 충돌하는 것처럼 보이지만, 한 축에서 만난다. 에이전트 군집이 본격적으로 돌기 시작하면 토큰 소비는 자동으로 폭증한다. 그래서 어떤 작업에 어느 모델 등급을 쓸지 라우팅하는 레이어가 진짜 설계 포인트가 된다. 나델라가 굳이 "중독"이라는 단어를 고른 건 그래서 의미심장하다. 가격이 떨어지면 더 비싼 모델을 더 무지성으로 부르게 된다는, 본인 회사의 매출 곡선에 대한 자기 진단이기도 하다. 진짜 질문은 모델이 얼마나 똑똑한가가 아니라, 그 똑똑함의 비용을 누가 라우팅하느냐다.