OpenAI가 첫 자체 AI 프로세서 Jalapeño를 공개했다. The Verge 보도에 따르면 이 칩은 Broadcom과 함께 만든 AI 서버용 "intelligence processor"이며, OpenAI는 현재와 앞으로의 대형 언어 모델을 구동하기 위한 칩이라고 설명했다.
핵심은 Jalapeño가 GPU가 아니라 ASIC이라는 점이다. 범용으로 여러 작업을 처리하는 칩이 아니라 특정 목적에 맞춘 설계다. 이번 목적은 AI inference다. 사용자가 ChatGPT에 질문을 던지거나 Codex 같은 에이전트를 실행할 때, 이미 훈련된 모델이 요청을 받아 답을 계산하는 바로 그 구간이다.
OpenAI가 이 영역을 직접 건드리는 이유는 어렵지 않다. Nvidia GPU는 여전히 AI 인프라의 중심이고 공급도 제한적이다. 대형 AI 서비스는 모델을 한 번 훈련하는 비용도 크지만, 실제로는 매일 쏟아지는 추론 요청을 처리하는 운영비가 계속 누적된다. Jalapeño는 그 반복 비용을 줄이기 위한 하드웨어 카드에 가깝다.
발표에는 아직 비어 있는 부분도 많다. Broadcom CEO Hock Tan은 Reuters 인터뷰에서 Jalapeño가 Nvidia Blackwell과 Google TPU 성능에 맞먹는다고 말했지만, OpenAI는 최종 성능을 아직 측정 중이라고 밝혔다. OpenAI가 내세운 표현도 구체적인 벤치마크가 아니라 "performance per watt"가 현행 최고 수준보다 상당히 나을 것이라는 쪽이다.
그럼에도 방향은 뚜렷하다. OpenAI는 Jalapeño를 2026년 말 배포할 계획이고, 이를 여러 세대로 이어질 컴퓨트 플랫폼의 첫 단계라고 부른다. AI 경쟁이 모델 발표와 벤치마크 점수에만 머물지 않고, 전력 효율과 서버 공급망, 추론 비용 관리로 이동하고 있다는 신호다. 앞으로의 승부는 더 똑똑한 모델을 만드는 일과 함께, 그 모델을 매일 안정적으로 돌릴 수 있는 인프라를 누가 쥐느냐에 달려 있다.