오픈AI, 추론 비용 50% 절감…경쟁사와 가격 전쟁 돌입

오픈AI가 추론 비용을 절반으로 줄여 경쟁사보다 낮은 가격을 책정할 여력을 확보했으며, 1200억 달러 규모의 자금 조달을 준비 중이다.

오픈AI 엔지니어들은 일부 기존 모델의 추론 비용을 50% 이상 절감했다. 이를 통해 자사 플래그십 모델인 GPT-5.6 Sol의 가격을 앤트로픽(Anthropic)의 경쟁 모델인 Claude Fable 5의 절반 수준으로 책정하면서도 벤치마크 성능은 앞서도록 만들었다.

오픈AI는 이 방법을 '비밀 소스(secret sauce)'로 취급하며 내부 접근 권한을 엄격히 통제하고 있다고 디인포메이션(The Information)이 보도했다. 보도에 따르면 기자 스테프 팔라졸로(Steph Palazzolo)는 "이 정보가 유출되면 다른 연구소에서도 이를 도입해 비용을 낮출 수 있기 때문에, 다른 오픈AI 직원들에게조차 알리지 않으려 한다"고 전했다.

Sol은 터미널-벤치 2.1(Terminal-Bench 2.1) 벤치마크에서 앤트로픽의 Claude Mythos 5보다 높은 점수를 기록했지만, 비용은 Claude Fable 5보다 50% 낮다. 이러한 효율성 개선 덕분에 오픈AI는 로그아웃 상태의 ChatGPT 트래픽을 수백 대의 Nvidia GPU만으로 처리할 수 있게 됐다. 이는 수억 명의 월간 활성 사용자를 대상으로 하는 서비스로서는 전형적인 요구량에 비해 극히 적은 규모다.

이러한 비용 우위는 오픈AI가 7300억 달러의 프리머니(pre-money) 평가가치로 1200억 달러 규모의 자금 조달 라운드를 앞두고 있는 시점에 확보됐다. 최고경영자(CEO) 샘 올트먼(Sam Altman)은 앤트로픽보다 먼저 기업공개(IPO)를 추진하고 있다. 마진 개선은 지속적인 수익성 향상에 의존하는 이 평가가치 서사에 중요한 재정적 뒷받침을 제공한다.

엔터프라이즈로의 전환

이번 추론 비용 혁신은 오픈AI의 광범위한 전략적 전환을 뒷받침한다. 애플리케이션 총책임자인 피지 시모(Fidji Simo)는 최근 전사 회의에서 직원들에게 회사가 비디오 생성기 소라(Sora) 같은 소비자 제품의 우선순위를 낮추고(컴퓨팅 자원을 재배치하기 위해 해당 제품을 중단했다), 마진이 더 높은 엔터프라이즈 툴과 코딩 제품에 집중할 것이라고 밝혔다. 이는 소비자 AI 제품이 얇은 마진과 무료 대안과의 치열한 경쟁에 직면해 있는 반면, 엔터프라이즈 고객은 신뢰성, 보안, 맞춤화에 대해 프리미엄 요금을 지불한다는 인식을 반영한 움직임이다.

코딩 툴에 대한 오픈AI의 집중은 특히 전략적이다. 소프트웨어 개발은 AI의 가장 큰 주소 가능 시장 중 하나이며, GitHub Copilot과 유사한 도구들은 이미 연간 수십억 달러의 매출을 창출하고 있다. 낮은 추론 비용과 뛰어난 코딩 성능을 결합함으로써 오픈AI는 GitHub Copilot이나 Amazon의 CodeWhisperer 같은 경쟁사보다 품질을 유지하면서 가격으로 앞설 수 있다.

인프라 독립

비용 절감은 또한 오픈AI가 자체 인프라를 더 많이 확보하려는 움직임과도 일치한다. 오픈AI는 최근 브로드컴(Broadcom)과 협력해 맞춤형 추론 칩을 개발 중이다. 이는 Nvidia GPU에 대한 의존도를 줄일 수 있는 조치다. Nvidia의 데이터센터 매출은 최근 회계연도에 620억 달러에 달했으며, 이는 주로 H100 및 B200 프로세서에서 실행되는 AI 추론 워크로드에 의해 견인됐다. 맞춤형 칩은 오픈AI가 GPU 조달 비용에서 연간 수십억 달러를 절감할 수 있게 하여, 타사 하드웨어에 의존하는 경쟁사보다 마진 격차를 더욱 확대할 수 있다.

이러한 효율성 개선은 모델 가중치의 정밀도를 낮춰 연산 속도를 높이는 양자화(quantization)와 자주 사용되는 결과를 저장하는 캐싱 최적화 등의 기술에서 비롯된 것으로 보인다. 이러한 방법들은 업계에서 잘 알려져 있지만, 오픈AI가 50%의 비용 절감을 달성한 것은 경쟁사들이 아직 따라잡지 못한 독자적인 개선이 있음을 시사한다.

투자자들에게 핵심 질문은 오픈AI의 비용 우위가 지속 가능하냐는 것이다. 앤트로픽, 구글 딥마인드(Google DeepMind), 메타(Meta) 등 경쟁사가 이 방식을 재현할 경우, 가격 우위는 빠르게 사라질 수 있다. 오픈AI 주식은 공개 거래되지 않지만, 비공개 시장에서의 7300억 달러 평가가치는 투자자들이 이미 지속적인 마진 개선을 가격에 반영하고 있음을 의미하며, 이러한 우위의 약화는 IPO 서사에 위험이 될 수 있다. 브로드컴과의 파트너십과 비용 절감 방법에 대한 내부 비밀 유지는 오픈AI가 경쟁사들이 따라잡기 전에 추론 효율성에서의 리더십이 시장 점유율을 굳힐 만큼 오래 지속될 것이라고 베팅하고 있음을 시사한다.

본 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.