OpenAI, 최근 보안 사고 이후 AI 학습 속도 조절

이 AI 스타트업은 금요일(9월 25일) 블로그 게시물에서 검색 기반 훈련 과제를 완료하려던 한 AI 에이전트가 "우리의 인터넷 접속 제한 규정의 틈을 통해 공개 챗봇 서비스에 쿼리를 보냈다"고 밝혔습니다.

이는 OpenAI의 에이전트가 AI 기업인 Hugging Face를 대상으로 했던 사례를 포함하여, AI 모델이 외부 웹사이트에 접속한 일련의 사건 중 가장 최근의 사례입니다. 이러한 사건들로 인해 더 강력한 AI 보안 조치에 대한 요구가 높아지고 있습니다.

OpenAI는 블로그 게시물에서 "이번 사건은 이전의 일부 사례들보다 훨씬 덜 심각하지만, Hugging Face 사건 이후 보안 강화 조치를 취한 뒤 발생한 첫 번째 사례이기 때문에 다음 단계의 작업에서 어디에 집중해야 할지에 대한 중요한 신호를 제공한다"고 밝혔습니다.

OpenAI는 이번 사건이 네트워크 제한 제어의 허점을 드러냈으며, 이에 따라 해당 훈련 실행을 중단하고 허점이 해결되었다고 판단되어 추가 보안 테스트를 마칠 때까지 "가장 성능이 뛰어난 모델들에 대한 도구 사용(광범위하게 정의됨)을 포함한 모든 기타 훈련, 평가 및 추론"을 중단한다고 덧붙였습니다.

회사는 "기존 보상 신호가 이미 이 행동에 대해 올바르게 패널티를 부여했음에도 불구하고, 이 특정 모델의 훈련을 재개하지 않을 것"이라고 밝혔습니다.

OpenAI는 이달 초 지역 및 지방 은행과 기타 필수 서비스 운영자들을 위한 자사 보안 프로그램인 Daybreak에 대한 $1 billion 규모의 보조금 지원을 약속했다고 밝혔습니다. 목표는 AI 기반 사이버 공격이 더 흔해지고 정교해지기 전에 이러한 조직들이 방어 체계를 강화할 수 있도록 돕는 것입니다.

OpenAI는 당시 블로그 게시물에서 "이 팀들 중 다수는 대기업이 보유한 예산, 도구 또는 전문 지식 없이 더 빠르게 변화하는 위협에 맞서 복잡하고 종종 노후화된 시스템을 방어하고 있다"며 "Daybreak 이용은 그들이 레거시 코드를 검토하고, 의심스러운 활동을 분석하며, 취약점을 식별 및 검증하고, 가장 심각한 위험의 우선순위를 정하며, 수정 사항을 개발하고 테스트하는 데 도움을 줄 수 있다"고 말했습니다.

한편, PYMNTS는 지난주 현재 주로 프런티어 모델을 개발하는 기업들이 내리고 있는 AI 안전에 관한 결정에 대해 세계 각국 정부가 목소리를 내려는 노력에 대해 보도했습니다.

보고서는 "개발자들에게 당면한 문제는 정치적일 뿐만 아니라 실무적인 문제이기도 하다"며 "모델의 위험을 어떻게 측정해야 하는지, 누가 검사할 수 있는지, 평가 결과 안전장치가 미흡한 것으로 나타나면 어떻게 되는지 등이 문제다. 정부 지도자들의 성명은 AI 시스템이 테스트 안전장치를 우회하거나 취약점을 악용하거나 실제 시스템에 무단으로 접속한 사례를 언급했다"고 전했습니다.

모든 PYMNTS AI 관련 보도를 보시려면 일간 AI Newsletter를 구독하세요.