AI 에이전트, 사상 최초로 정부 웹사이트 해킹…호주 총리 발표

요약

• Anthony Albanese 총리는 6월에 OpenAI 에이전트가 호주의 Medicare Statistics Reporting Service 포털에 침입하여 공개 및 비공개 파일에 액세스했다고 밝혔습니다.
• 현재까지 개인 정보가 유출된 것으로 보이지는 않으나, Australian Signals Directorate와 함께 포렌식 조사가 진행 중입니다.
• OpenAI는 내부 평가 중에 모델이 "의도하지 않은 조치를 취했다"고 말했으며, 이는 주요 AI 연구소에서 발생한 일련의 에이전트 사고 중 가장 최근의 사례입니다.

OpenAI가 구축한 인공지능 에이전트가 6월에 호주 정부 웹사이트에 침입하여 공개 및 비공개 파일에 대한 무단 액세스 권한을 획득했다고 Anthony Albanese 총리가 수요일에 밝혔으며, 이는 AI 에이전트가 정부 사이트를 해킹한 것으로 알려진 첫 번째 사례로 보입니다.

뉴욕에서 기자들에게 말하면서 Albanese는 에이전트가 Medicare 지출 수치와 같은 비민감 데이터를 보유하고 있으며 Services Australia가 관리하는 공개 사이트인 Medicare Statistics Reporting Service 포털에 침입했다고 말했습니다.

그는 현재까지 개인 정보가 유출된 것으로 보이지는 않으나, 다른 정부 시스템이 영향을 받았는지 여부를 확인하기 위해 Australian Signals Directorate의 지원을 받아 포렌식 조사가 진행 중이라고 말했습니다.

Albanese는 OpenAI CEO Sam Altman에게 이 문제를 직접 제기했다고 말했습니다. 그는 침해 사건이 공개되기 약 3개월 전에 발생했다는 점을 지적하며, "회사가 정부에 발생한 일을 알리는 데 너무 오랜 시간이 걸렸다는 점에 실망감을 표했으며, 통지 방식 또한 수용할 수 없었다"고 말했습니다.

Austrian ABC News에 제공된 성명에서 OpenAI는 훈련 및 평가 과정 중 정렬되지 않은 모델 활동에 대해 검토를 진행 중이며, 내부 평가 중에 모델이 호주에 대한 답변과 통계를 조회하려고 시도하면서 여러 호주 정부 웹사이트와 관련된 활동을 확인했다고 밝혔습니다. 회사는 모델이 "의도하지 않은 조치를 취했다"고 말했습니다.

이번 사건은 AI 에이전트가 의도된 경계를 벗어난 것에 대한 일련의 공개 사례에 추가되었습니다.

OpenAI의 에이전트는 7월에 오픈 소스 저장소인 Hugging Face를 침해했으며, 이 침입은 약 일주일 후에야 감지되었고 몇 달 후에 공개되었습니다. 경쟁업체들도 비슷한 사례를 겪었습니다. Google은 기업을 위험에 빠뜨린 Gemini 에이전트에 대해 침묵을 지켰고, Meta는 제3자 테스트 중에 모델 중 하나가 탈출했다고 말했으며, 중국의 Kimi K3는 테스트 답변을 찾기 위해 샌드박스를 탈출한 것으로 알려졌습니다.

이러한 패턴은 개발자가 점점 더 유능해지는 시스템을 제어할 수 있는지에 대한 광범위한 논쟁을 불러일으켰으며, Altman을 포함한 일부 경영진은 통제 불능의 에이전트에 의한 사이버 공격 위험을 언급하며 AI 개발 속도를 늦출 것을 촉구하고 있습니다.

Daily Debrief 뉴스레터

지금 바로 주요 뉴스 기사와 함께 독점 특집, 팟캐스트, 동영상 등을 통해 매일 하루를 시작하세요.