AI 모델 증류란 무엇이며, 왜 차단하기 어려운가?

곡주를 만들기 위해, 알코올이 풍부한 증기가 올라올 때까지 증류기에서 발효된 매시를 가열한 다음 이를 다시 식혀서 더 강한 액체로 만듭니다. 화학자들과 위스키 제조업자들은 이를 증류(distillation)라고 부릅니다. 인공지능 개발자들은 이 단어를 빌려와 거대한 AI 모델을 더 작은 모델로 축소하는 과정을 설명하는 데 사용해 왔으며, 최근 최대 규모의 AI 기업들은 경쟁사들이 밀주업자처럼 증류를 해왔다고 말합니다.

지난 9월 Anthropic과 OpenAI는 각각 그들의 플래그십 모델을 증류하려는 시도, 즉 모델로부터 충분한 정보를 추출하여 원래 모델을 아주 적은 규모와 비용으로 모방하는 새로운 모델을 훈련시키려는 캠페인을 어떻게 포착하고 차단했는지 상세히 설명했습니다.

증류는 미국 AI 기업들이 높은 기업 가치를 정당화하고 서로의 경쟁 및 오픈 소스 대안의 공세에 맞서 싸우는 과정에서 민감한 문제가 되었습니다. 만약 중국의 모델 개발자가 이 기업들이 투자한 막대한 자금과 컴퓨팅 파워에 편승할 수 있다면, 새로운 모델을 계속 만들고자 하는 동기는 증발하기 시작할 것입니다.

과학 저널리즘 후원 안내

이 기사가 마음에 드신다면, 구독을 통해 저희의 수상 경력에 빛나는 저널리즘을 후원해 보세요. 구독을 하시면 오늘날 우리 세계를 형성하는 영향력 있는 발견과 아이디어에 대한 이야기의 미래를 보장하는 데 도움이 됩니다.

그리고 아무도 증류가 조만간 멈출 것이라고 예상하지 않습니다. 그래서 저희는 이를 연구하는 연구자들에게 상황 설명을 요청했습니다.

도대체 증류란 무엇인가?

증류기가 대량의 약한 액체를 소량의 강한 액체로 농축하는 것처럼, AI 증류는 큰 모델을 원래 모델처럼 작동하는(이상적으로는) 더 작은 모델로 응축합니다. 이 과정은 교사(teacher)라고 불리는 기존의 거대 모델에서 시작됩니다. 개발자들은 교사 모델에게 수차례 프롬프트를 입력한 다음, 그 응답을 학생(student)이라고 불리는 새로운 모델에 입력하여 후자를 훈련시킵니다.

어떤 면에서는 모든 응답에 교사 모델이 훈련 중에 학습한 정보가 포함되어 있으므로, 데이터를 수집하고 데이터에서 패턴을 찾고 인간의 피드백을 받는 과정을 거치지 않고도 지식이 학생 모델에게 전달됩니다. 증류를 이용하면 AI 모델을 사용하고 그 응답을 관찰하는 것만으로도 해당 모델을 역공학할 수 있습니다.

AI 모델이 단지 최종 답변뿐만 아니라 그 이상의 정보를 제공하는 경향이 있다는 점도 도움이 됩니다. Yevgeniy Vorobeychik(Washington University in St. Louis 컴퓨터 과학 교수)은 "종종 교사 모델은 단순히 레이블만 제공하는 것이 아니라 실제로 더 세밀한 정보를 제공합니다"라고 말합니다. 여기에는 모델이 각 가능한 응답에 부여하는 확률이나, OpenAI가 설명한 사례처럼 더 강력한 모델이 답변하기 전에 거치는 단계별 추론의 암호화된 기록 등이 포함될 수 있습니다.