OpenAI가 사내 스파이를 색출하기 위해 AI를 활용한 방법

OpenAI는 소위 기업 스파이로 의심되는 인물을 찾아내기 위해 자체 AI 모델을 사용했다고 밝혔습니다. 그들은 이들을 FBI에 넘겼으며, FBI는 October 9에 체포를 진행했습니다.

OpenAI는 Gizmodo에 해당 직원이 작년 July부터 OpenAI의 제품 부서에서 근무해 왔다고 전했습니다.

OpenAI에 따르면, 회사는 정기적인 보안 점검을 실시하며, September 30에 진행된 회의실 점검 중 기술적 감시 대응 조치를 통해 수상한 점을 발견했습니다.

Gizmodo에 제공된 성명은 이 도청 장치를 "정교한 녹음 장치"라고 지칭했습니다.

OpenAI에 따르면 장치 자체는 오디오를 모니터링했으며 데이터 전송에 사용될 수 있었습니다. 회사는 해당 장치가 암호화를 사용했으며 은밀하게 작동하도록 설계되었다고 밝혔습니다.

장치는 데이터를 저장한 것으로 보이며, OpenAI에 따르면 회사의 조사관들은 해당 저장 장치의 포렌식 이미지와 일부 데이터 변경 사항을 자체 AI 모델에 입력할 수 있었고, 조사관들의 분석과 결합된 이 AI 강화 프로세스를 통해 회사는 용의자를 특정할 수 있었습니다.

OpenAI에 따르면, 이 직원이 더 많은 도청 장치를 설치하려 했다는 증거가 있습니다.

국가 수준의 행위자로부터 AI 기술을 보호하는 것은 미국에게 높은 우선순위로 간주됩니다. 예를 들어, 재무장관 Scott Bessent는 OpenAI 사무실 도청은 고사하고 최소한의 비밀 유지만으로 AI 모델의 기능을 복제하는 방식인 소위 '증류(distillation)' 혐의와 관련해 China에 제재를 가하는 방안을 제시한 바 있습니다.

OpenAI의 성명은 회사가 "이 개인이 모델 가중치, 소스 코드 또는 고객 데이터에 부적절하게 접근하거나 이를 유출했다는 징후는 없다"고 밝혔으며, 해당 직원은 해고되었습니다.

OpenAI에 따르면 용의자의 해고와 체포는 도청 장치가 발견된 지 일주일 이상 지난 October 9에 모두 이루어졌습니다. 그동안 회사 측에 따르면 조사가 심화되는 동안 용의자의 업무 범위와 시스템 접근 권한은 서서히 축소되었습니다. 이러한 축소 과정은 결국 완전한 차단으로 이어졌으며, 그 시점에 해당 인물의 장비가 압수되고 휴직 처리가 되었습니다.

우리는 기술, 데이터 및 인력을 보호하는 것을 진지하게 생각하며 국가적으로 중요한 문제로 여기고 있습니다. 우리의 보안 프로그램은 내부 위험부터 사이버 범죄자, 국가에 이르기까지 광범위한 위협 행위자로부터 보호하도록 설계되었으며, 이번 사례는 AI가 이러한 정교한 보안 위협을 해결하는 데 어떻게 도움이 될 수 있는지 보여주는 예입니다.”

“The FBI’s investigation is ongoing and we will continue to support their work,” the company’s statement says.