AI 상담원이 사람처럼 들리려면 자연스러운 음색만으로는 부족하다. 상대가 말을 끝내기 전에 맥락을 따라가고, 짧은 침묵을 어색하지 않게 넘기며, 모르는 질문 앞에서 아는 척하지 않아야 한다. Smallest.ai는 이 문제를 대형 언어 모델 하나의 성능으로 밀어붙이지 않고, 통화가 실제로 흘러가는 방식을 다시 설계하는 쪽을 택했다.
회사는 1,300만 달러 규모의 시리즈 A를 유치했다. Seligman Ventures가 라운드를 이끌었고 Sierra Ventures와 3one4 Capital이 참여했다. 이번 투자로 누적 투자금은 2,100만 달러를 넘었다. 2024년 말 설립된 이 스타트업은 RingCentral과 Truecaller를 고객으로 두고, 기업 고객지원용 실시간 음성 에이전트에 집중한다.
제품 구조의 중심에는 사람의 대화 방식을 흉내 내도록 설계된 작은 음성 모델이 있다. 이 모델은 듣고, 생각하고, 말하는 일을 순차적으로 끝낸 뒤 다음 단계로 넘어가기보다 동시에 처리한다. 긴 오디오 조각을 한꺼번에 입력하고 나서 답을 만드는 일반적인 LLM 흐름이 전화에서 긴 지연으로 이어진다는 판단 때문이다.
작은 모델이 모든 일을 맡는 것도 아니다. 정해진 지식 범위를 벗어난 질문은 대형 기반 모델로 넘긴다. 이때 고객에게 잠시 기다려 달라고 안내해 답을 확인하는 시간을 만든다. 사람 상담원이 대화 중 자료를 찾아보는 것과 비슷한 처리다. 이 분업은 음성 에이전트가 만능인 척하지 않으면서도 실시간 반응을 유지하려는 타협안이다.
Smallest.ai가 악센트, 수십 개 언어, 소음 환경을 따로 강조하는 이유도 여기에 있다. 기업 통화에서 품질은 스튜디오 녹음처럼 깨끗한 한 문장의 음색이 아니라, 다양한 화자와 불완전한 환경에서 대화를 계속 이어가는 능력으로 측정된다. 회사는 ElevenLabs, Cartesia, 지역 언어에 초점을 둔 Sarvam과 경쟁하지만, 더빙이나 팟캐스트가 아니라 실시간 고객지원에 범위를 좁혔다.
남은 질문은 운영에 있다. 작은 모델이 어디까지 답할지, 언제 대형 모델을 호출할지, 그 과정에서 생기는 보류 시간을 고객이 얼마나 자연스럽게 받아들일지 아직 풀어야 한다. ‘AI인지 사람인지 모르게 하겠다’는 튜링 테스트 목표는 결국 목소리 하나의 문제가 아니다. 빠른 모델과 깊이 있는 모델을 어떤 규칙으로 연결하느냐가 통화 경험을 좌우한다.