OpenAI의 학습 중단은 편의적일 수 있지만, 결코 무의미하지 않습니다.

이번 주 Sam Altman이 OpenAI의 모델들이 Hugging Face라는 AI 기업을 해킹한 후 훈련의 일부를 중단했다고 발표했을 때, 저의 첫 반응은 '참 편리하기도 하지'였습니다.

2027년(또는 그보다 빨리) 상장할 수도 있는 기업인 OpenAI는 아직 출시하지 않은 모델이 해킹에 무서울 정도로 능숙하다는 사실을 모든 이에게 알릴 기회를 얻었습니다. 그러고 나서 세상을 안전하게 지키기 위해 그 속도를 늦춘 것에 대한 공로를 인정받습니다. 가능하다면 참 좋은 일이죠.

AI 모델의 해킹은 일종의 반복되는 뉴스 장르가 되었습니다. 7월 Hugging Face 사건이 발생하고 며칠 후, Anthropic과 Meta 모두 각자의 모델들 또한 좋지 않은 행동을 했다고 밝혔습니다. 세부 사항은 달랐지만 주제는 같았습니다. 모델들이 기업이 통제할 수 있는 속도보다 더 빠르게 해킹 능력이 향상되고 있다는 것입니다.

제가 대화를 나눈 한 Google DeepMind 직원(익명을 요구했으며 저의 직업적으로 길러진 냉소주의에 특별히 설득당하지 않았습니다)은 상황을 더 심각하게 보았습니다. "이러한 수준의 성능을 가진 모델을 계속 훈련시키고 싶다면 모두가 훈련 환경을 강화해야 한다는 큰 경종을 울리는 사건입니다"라고 그들은 말했습니다.

이 직원은 지난달 미국 정부에 AI 경쟁의 속도를 늦출 방법을 찾아달라고 요청하는 서한에 서명한 1,300명 이상의 주요 AI 연구소 직원 중 한 명이었습니다. 서한은 어떤 연구소도 혼자서는 브레이크를 밟을 수 없다고 주장했습니다. OpenAI의 중단 결정이 정부 개입에 대한 이 직원의 생각을 바꾸었을까요? 아니요, 선두 주자들만이 속도를 늦출 여유가 있기 때문이라고 그들은 답했습니다. "xAI가 자발적으로 속도를 늦출 것이라고 생각하시나요?"

이는 우리에게 짜증스러울 정도로 깔끔하지 못한 결론을 남깁니다. OpenAI는 스스로 자초한 혼란을 수습하고 있습니다. 하지만 이번만큼은 유용한 전례를 남기고 있습니다. 모델이 선을 넘으면 훈련을 중단할 수 있다는 것입니다. 하지만 세계에서 가장 유명한 AI 기업이 충분히 안전하다고 느낄 때만 작동하는 안전 시스템은 제대로 된 시스템이라고 할 수 없습니다.

그렇다면 대부분의 평범한 사람들처럼 AI 사이버 보안의 모든 우여곡절을 추적하지 않는다면 이 모든 것이 무엇을 의미할까요? Business Insider의 스타 AI 기자 Stephen Council에게 그 의미를 물었습니다.