Google, 새로운 전용 칩 2종으로 AI 하드웨어 포트폴리오 확장

Google은 클라우드 컴퓨팅 사업을 위해 타사에서 만든 칩에 대한 의존도를 낮추고자 칩 제조 역량을 강화하고 있습니다. Google은 월요일, AI 워크로드를 위해 자체 개발한 칩인 텐서 처리 장치(TPUs)의 두 가지 새로운 변형을 unveiled(공개)했습니다. 이는 기밀 추론 및 대규모 워크로드를 위한 더 큰 메모리 용량과 같은 추가적인 사용 사례로 자사의 칩 포트폴리오를 확장한 것입니다.

새로운 유닛인 TPU 8tx와 TPU 8i Max는 올해 4월에 introduced(소개)된 이 회사의 8세대 칩의 일부이며, 더 많은 추론 용량과 대규모 학습 요구 사항에 대한 지원이라는 기존 칩의 기능을 기반으로 구축되었습니다.

AMD와 함께 설계된 TPU 8tx는 TPU 8t 칩을 기반으로 하며, 특히 AI 모델을 기밀로 학습하고 실행하는 데 특화되어 있다고 Google은 블로그 게시물을 통해 밝혔습니다. 이 칩은 "하드웨어 계층에 보안을 직접 내장하여 민감한 데이터와 모델 가중치가 활발히 사용되는 동안에도 보호되고 격리된 상태를 유지한다"고 회사 측은 설명했습니다.

이 칩은 또한 학습과 동시에 추론을 실행할 수 있는 맞춤형 추론 네트워크를 갖추고 있어, 즉석에서 소형 모델을 증류(distill)하고 학습시키는 데 사용될 수 있습니다. Google에 따르면 이러한 기능은 기업이 기기 간에 데이터를 이동할 필요 없이 자체 소유 데이터로 모델을 학습시키고자 하는 경우에 유용할 수 있습니다.

한편, TPU 8i Max는 기본적으로 지난 4월에 출시된 추론 중심의 TPU 8i 칩 두 개를 결합하여 메모리 용량, 처리 전력 및 대역폭을 두 배로 늘리면서도 단일 패키지로 구성했습니다. 그 결과 AI 모델이 쿼리 중에 더 광범위한 정보를 처리할 수 있는 칩이 탄생했습니다.

이번 칩 출시는 Microsoft, Amazon과 같은 하이퍼스케일러뿐만 아니라 OpenAI 및 Anthropic과 같은 AI 연구소들이 Nvidia의 독점에 대한 의존도를 낮추기 위해 자체적인 AI 전용 반도체 라인과 accompanying software(관련 소프트웨어)를 개발하고 있는 가운데 이루어졌습니다.

이 소식은 Nvidia에게 특히 취약한 시기에 전해졌습니다. Nvidia의 CEO Jensen Huang은 지난 주말 중국 스파이로 의심되는 인물과 having an affair(불륜 관계를 맺었음)을 admitted(인정)했습니다.