기업 AI 비용 하락 중이나, 절감액은 추가 AI 도입에 투입

미국 기업들은 사용량이 증가하고 있음에도 불구하고 AI에 지불하는 비용을 계속해서 줄이고 있다고 Ramp AI Index가 발표한 최근 연구는 밝혔다. 이 정보는 AI 가격 전쟁이 수요에 부정적인 영향을 미치지 않고 있음을 나타낸다. 대신, 기업들은 이제 대규모로 AI를 배포하는 것이 더 쉬워졌음을 깨닫고 있다.

위와 같은 추세가 지속된다면, 칩, 클라우드 용량 및 추론을 공급하는 기업들이 재정적 이익 측면에서 활력을 얻을 것으로 기대할 수 있다.

7월 이후 사용량 50% 증가, 지출 감소

Ramp의 경제학자 Ara Kharazian은 OpenAI와 Anthropic 같은 기업들이 가격을 낮출 수 있도록 시장이 활짝 열렸던 7월에 사상 최고치를 기록한 이후, 기업들이 AI에 투입하는 자금의 양이 감소했다고 밝혔다.

사용량은 완전히 반대되는 추세를 보였다. 9월까지 사용량은 거의 50% 증가하며 사상 최고치를 기록했다. Anthropic의 토큰 사용량은 해당 월의 마지막 주에 51%였으며, OpenAI는 44.5%였다. Ramp에 따르면 오픈 소스 대안은 5% 미만을 유지했다.

Ramp는 70,000개의 미국 기업으로부터 거래 데이터를 수집했지만, 토큰 데이터는 대규모 구매자를 우선시하는 더 작은 API 중심 샘플에서 가져온 것이다.

Kharazian에 따르면 Anthropic과 OpenAI 간의 경쟁은 기업의 비용을 낮추는 동시에 더 많은 사람들이 AI를 더 쉽게 접할 수 있게 만들고 있다.

저렴한 토큰이 왜 더 적은 AI가 아닌 더 많은 AI를 의미할 수 있는가

낮은 가격이 반드시 AI 산업의 쇠퇴를 의미하는 것은 아니다. Citadel Securities의 전문가 Frank Flight는 그의 토크노믹스 평가에서 도입 수준이 컴퓨팅, 전력 및 추론 용량의 가용성과 가격 적정성에 점점 더 의존하고 있다고 주장했다.

Ramp 자체 데이터에 따르면 유효 토큰의 가격은 100만 토큰당 약 $0.68로 41% 하락했다.

기업들은 적합한 가장 저렴한 모델로 작업을 라우팅한다

기업들은 또한 각 작업을 처리할 모델을 선택하는 데 있어 더욱 신중해지고 있다. 472개 기업을 대상으로 한 State of Tokenomics 설문 조사에 따르면 86%가 모델 라우터를 사용하거나 평가 중인 것으로 나타났다. 라우터 사용자는 CFO에게 측정 가능한 가치를 보여줄 가능성이 4배 더 높았다.

많은 기업이 또한 프런티어 모델에 대한 의존도를 줄이기 시작했다. 현재 51%가 프런티어 모델에 크게 의존하고 있다고 답한 반면, 1년 후에도 이 범주에 속할 것이라고 생각하는 비율은 24%에 불과했다.