OpenAI ‘에이전트’가 호주 Medicare를 해킹한 방법과 그 의미

지난 6월 OpenAI 기반 모델들이 정부 보건 데이터 시스템에 침입하여 디지털 방어망을 뚫고 무단으로 파일에 접근한 사건이 발생한 후 Australian 당국이 경고를 발령했습니다.

이는 자율적으로 과업을 수행할 수 있는 AI 기반 소프트웨어 시스템인 인공지능(AI) “에이전트”가 정부 웹사이트에 침입한 최초의 공개 사례이자, 여러 건의 외부 시스템 AI 침해 사건 중 가장 최근의 사례입니다.

추천 기사

이번 공개는 주요 AI 기업들이 인간이 AI에 대한 통제력을 잃을 위험을 경고하며, 안전하게 규제할 수 있는 속도로 개발을 늦춰야 한다고 촉구하는 가운데 나왔습니다. 이들은 이를 보장하기 위해 전 세계 강대국들이 협력해야 한다고 말했습니다.

AI 기업 Anthropic의 연구 과학자인 Evan Hubinger는 10년 이내에 AI가 “모든 인간을 죽일” 확률이 10 percent 이상이라고 믿는다고까지 말했습니다.

수요일 유엔 안전보장이사회에서 연설한 OpenAI CEO Sam Altman은 AI가 “너무 빨리 움직여서 사람들이 더 이상 무슨 일이 일어나는지 추적하거나 필요한 때에 개입할 수 없게 될 위험이 있다”고 말했습니다.

“이것은 분명히 끔찍한 일이 될 것입니다.”라고 그는 말했습니다. “그리고 우리는 인간의 통제하에 둘 수 있다는 매우 강력한 근거를 제시할 수 없는 모델을 훈련해서는 안 됩니다.”

Australia의 AI 침해에 대해 무엇이 알려졌습니까?

Australia 총리 Anthony Albanese는 수요일에 침해 사실을 밝히며, 7월 18일 OpenAI 에이전트가 국가 보편 건강보험 시스템인 Medicare의 대민 의료 통계 포털에 침입했다고 말했습니다.

OpenAI가 공공 의료 지출에 대한 연구를 수행하던 중 정부 포털에 접근했을 때, Albanese는 AI 에이전트가 포털 침입을 막아야 했던 “차단막”을 우회했다고 말했습니다.

“AI 에이전트는 해당 차단막을 우회하는 방법을 찾아냈으며, 거절을 답으로 받아들이지 않았습니다.”라고 Albanese는 말했습니다.

Richard Marles 부총리는 OpenAI 에이전트가 접근한 정보가 “특별히 민감한 것”은 아니었으며 나중에 공개되었다고 말했습니다.

그럼에도 불구하고 Albanese는 이 상황이 “분명히 용납할 수 없는 일”이라며, 9월 10일까지 정부에 침해 사실을 통보하지 않은 OpenAI 측에 Australia의 “심각한 우려”를 전달했다고 말했습니다.