OpenAI, Hugging Face 침해 사고 후 새로운 안전 장치 도입

화요일, OpenAI는 모델 테스트 중 보안 사고를 억제하는 데 초점을 맞춘 일련의 새로운 보안 정책을 발표했습니다. 새로운 보호 조치에는 개발 과정 중 모델에 대한 더 상세한 모니터링뿐만 아니라 훈련 후 과정에서의 정렬 및 보안에 대한 더 큰 강조가 포함됩니다.

“모델의 성능이 향상됨에 따라 모델을 내부적으로 개발하고 테스트하는 것과 관련된 위험도 커집니다”라고 회사는 블로그 게시물에서 밝혔습니다. “모니터링, 정렬 및 보안에 대한 우리의 표준은 이러한 위험보다 앞서 나가야 합니다.”

새로운 조치는 Hugging Face 사건의 여파 이후 OpenAI의 안전 관행에서 나타난 첫 번째 공개적인 변화 중 하나로, 해당 사건은 7월 26일에 공개되었습니다.

OpenAI 관계자들은 이번 조치가 Hugging Face 사건에 대한 직접적인 대응은 아니며, 곧 출시될 Astra 모델의 사이버 보안 기능과 AI 개발의 전반적인 발전 속도에 의해서도 부분적으로 촉발되었다고 강조했습니다.

같은 게시물에서 OpenAI는 Hugging Face 사건 이후 2주 동안 강화 학습을 동결했었으나, 그 이후 위험이 적은 모델들은 많이 재개했다고 밝혔습니다.

“우리가 계획한 가장 큰 프런티어 RL 실행은 모델 동작을 평가하고, 보호 조치를 검증하며, 진행하기 전에 정렬에 대한 더 많은 증거를 확립하기 위해 소규모 훈련 및 평가를 수행하는 동안 보류 상태로 유지됩니다”라고 게시물은 전합니다.

기자들과의 인터뷰에서 OpenAI의 연구 부사장 Amelia Glaese는 모델의 능력이 향상됨에 따라 통제의 엄격함이 증가할 것이며, 가장 큰 모델들이 가장 엄격한 조사를 받게 될 것이라고 강조했습니다.

“우리는 안전한 개발을 위한 요구 사항과 기대를 마련했습니다”라고 Glaese는 기자들에게 말했습니다. “그러한 요구 사항과 기대는 우리가 인지하는 위험 수준에 따라 달라집니다.”

OpenAI는 인터넷 접근 권한을 유지한 패킷 설치 유틸리티를 손상시켜 모델이 훈련 환경을 탈출한 사고 이후 열악한 네트워크 보안 관행으로 비판을 받아왔습니다. 새로운 보호 조치에는 더 강력한 네트워크 격리 관행이 포함되지만 세부 사항은 모호합니다. 게시물에 따르면 새로운 시스템 하에서 “워크로드나 지원 서비스가 한 번 손상된다고 해서 그 자체로 인터넷이나 다른 내부 네트워크에 대한 무단 액세스가 허용되지는 않습니다.”

가장 강력한 보호 조치는 도구 작업, 가용 추론 추적 및 활동 로그에서 다양한 승인되지 않은 동작을 검사하는 모니터링 시스템입니다. OpenAI는 우려되는 활동이 발생한 후 30분 이내에 경고를 발령하는 것을 목표로 한다고 밝혔습니다.

OpenAI는 해당 모니터링의 컴퓨팅 부담이 모니터링되는 모든 프로세스의 약 20%가 될 것으로 추정합니다. 회사는 추후 블로그 게시물에서 시스템에 대한 자세한 내용을 약속했습니다. 해당 사건에 대한 OpenAI의 공식 사후 분석 결과도 여전히 계류 중입니다.