Nvidia, 더 적은 GPU로 AI 모델 구동 돕는 인도 스타트업 투자

AI 붐으로 인해 컴퓨팅 용량이 부족해지는 가운데, Nvidia는 기업들이 AI 모델을 더 효율적으로, 그리고 경우에 따라서는 더 적은 GPU로 실행할 수 있도록 돕는 소프트웨어에 베팅하며 인도 스타트업 Simplismart의 1,400만 달러 규모 펀딩 라운드를 지원했습니다.

Nvidia는 Accel, Shastra VC, Micromax와 함께 이번 전액 신주 발행 시리즈 B 라운드에 참여했으며, Dallas Venture Capital이 투자를 주도했습니다. 이번 거래에서 이 4년 된 스타트업의 기업 가치는 신규 자금을 포함해 약 1억 달러로 평가되었습니다.

오늘날 기업들은 AI 애플리케이션을 구동하기 위해 GPU에 막대한 비용을 지출하고 있지만, 이러한 모델을 대규모로 안정적이고 경제적으로 실행하는 것은 여전히 과제로 남아 있습니다. 워크로드마다 속도, 비용, 성능 사이에서 서로 다른 트레이드오프가 요구됩니다. 비즈니스 요구 사항을 충족하기 위해 AI 모델을 배포하고 운영하는 데는 종종 복잡한 조정이 필요합니다. Simplismart는 자사의 소프트웨어가 이러한 작업의 상당 부분을 자동화하여, 고객이 직접 구성을 관리할 필요 없이 기존 컴퓨팅 인프라에서 모델이 실행되는 방식을 맞춤화한다고 설명합니다.

“실제로 가장 빠르거나 가장 저렴한 추론이 필요한 사람은 아무도 없습니다”라고 Simplismart의 공동 창업자이자 CEO인 Amritanshu Jain(위 사진 왼쪽)은 인터뷰에서 말했습니다. 그는 기업들에 필요한 것은 각자의 특정 애플리케이션에 적합한 속도와 비용으로 AI 모델을 실행하는 것이라고 덧붙였습니다.

Simplismart의 소프트웨어는 AI 모델과 모델이 실행되는 컴퓨팅 인프라 사이에 위치하여, 고객의 요구 사항에 맞춰 모델의 배포 및 관리 방식을 조정합니다. 이 소프트웨어는 모델의 응답 속도, 처리하는 요청 수, 소비하는 컴퓨팅 전력과 같은 요소를 최적화하여 기업이 기존 GPU 스택을 최대한 활용할 수 있도록 돕습니다.

벵갈루루에 본사를 둔 이 스타트업은 기업들이 자체 플랫폼이나 기존의 클라우드 및 온프레미스 인프라를 통해 AI 모델을 배포하고 실행할 수 있는 방법을 제공합니다. 또한 모델을 미세 조정하고, 수요 변화에 따라 컴퓨팅 리소스를 자동으로 확장하며, 성능을 모니터링하는 도구도 제공합니다. 또한, Simplismart는 클라우드 제공업체가 자사의 소프트웨어를 사용하여 GPU 인프라에서 자체 AI 추론 서비스를 구축하고 운영할 수 있도록 지원합니다.