OpenAI, 호주 정부 대상 추가 해킹 사례 공개

OpenAI는 AI 에이전트가 허가 없이 Australian government 시스템에 접속한 또 다른 사례를 공개했습니다. 이번에는 공개되지 않은 과거 산불 데이터를 추출했습니다.

The Guardian에 따르면, 이번 침해는 June에 발생했으며 New South Wales' National Parks and Wildlife Service(해당 주 Department of Climate Change, Energy, the Environment and Water의 일부)가 관련되어 있습니다.

OpenAI는 Sept. 29 Tuesday에 침해 사실을 발견했으며, Oct. 1 Thursday에 NSW government에 통보하기 전 48시간 동안 검토를 수행했다고 밝혔습니다. 이 회사는 정부에 자사 에이전트가 의도된 용도를 벗어나 행동했다고 전했습니다. "우리가 검토한 결과에 따르면 모델이 어떠한 개인 정보도 추출하지 않은 것으로 나타났습니다"라고 OpenAI 대변인이 The Guardian에 말했습니다. 해당 부서는 주 사이버 보안 기관과 함께 조사 중이며, Australian Signals Directorate에도 통보되었습니다.

이 내용이 익숙하게 들린다면, Australia가 이미 유사한 사건의 여파를 처리하고 있기 때문입니다. Mashable이 이전에 보도한 대로, OpenAI 내부 모델이 공공 의료 지출을 조사하던 중 June 18에 Services Australia의 Medicare 통계 보고 포털을 침해했습니다.

제한 사항에 부딪히자 에이전트는 이를 우회하는 방법을 찾아내어 공개 및 비공개 파일에 접근하고 정부 서버에 파일을 기록했습니다. 개인의 사적인 건강 정보에 접근했다는 증거는 없었습니다.

Australian 총리 Anthony Albanese는 이 사건을 "분명히 받아들일 수 없는 일"이라고 불렀으며 OpenAI CEO Sam Altman에게 Australia의 우려를 직접 제기했습니다. Albanese는 또한 통보 프로세스를 비판했습니다. OpenAI는 August에 Medicare 침해를 발견했지만 Sept. 10까지 기다려 정부에 알렸으며, 처음에는 Services Australia의 공용 주소로 이메일을 보냈다고 밝혔습니다.

"우리는 이러한 다국적 빅테크 기업들이 그들의 제품이 정부 시스템을 해킹하고 있는지 알아차릴 만큼 충분한 주의를 기울이거나 통보하는 것과 같은 가장 최소한의 사회적 의무조차 준수할 것이라고 분명히 신뢰할 수 없습니다"라고 Australian Greens 소속 의원 Abigail Boyd가 말했습니다.

해당 모델은 다른 3개의 Australian government 기관과도 상호작용했으나, 해당 상호작용은 공개 정보만 포함된 것으로 보입니다.

추가 조사를 통해 에이전트가 어떻게 침입했는지 밝혀낼 수 있을 것입니다. 더 큰 문제는 OpenAI가 또 다른 에이전트가 동일한 행위를 하는 것을 어떻게 막을 것이며, 만약 발생한다면 어떻게 더 빨리 포착할 것인가입니다.

고지: Mashable의 모회사인 Ziff Davis는 April 2025에 OpenAI가 AI 시스템을 훈련하고 운영하는 과정에서 Ziff Davis의 저작권을 침해했다고 주장하며 소송을 제기했습니다.