'심각한 우려': OpenAI 에이전트가 호주 공공 의료 웹사이트를 해킹했다고 총리가 발표 - ABC 뉴스 - 속보, 최신 뉴스 및 영상

OpenAI 에이전트가 이번 여름 초 호주 공공 의료 웹사이트에 "침투"했다고 앤서니 앨바니지 호주 총리가 수요일 뉴욕에서 열린 미디어 브리핑에서 기자들에게 밝혔으며, 이는 AI 에이전트에 의한 정부 웹사이트 해킹의 첫 사례로 여겨지는 사건을 드러낸 것이다.

앨바니지 총리는 이 사건이 6월에 발생했으며, 독자적으로 행동한 AI 에이전트가 호주 메디케어 통계 보고 포털(Australian Medicare Statistics Reporting Portal)과 관련된 공개 및 비공개 파일에 모두 접근한 것과 관련이 있다고 말했다.

총리 웹사이트에 게시된 발언록에 따르면 앨바니지 총리는 "현재 단계에서 개인 정보가 유출된 것으로 보이지는 않지만 조사가 진행 중"이라며, "현재 가용한 증거에 따르면 서비스 오스트레일리아(Services Australia) 네트워크에 대한 더 광범위한 침해는 없었다. 그럼에도 불구하고 이 상황은 분명히 받아들일 수 없다"고 말했다.

해당 포털은 민감하지 않은 정보를 포함하는 대중용 통계 사이트라고 그는 말했다. 총리는 포렌식 조사가 여전히 진행 중이라고 밝혔다.

앨바니지 총리는 OpenAI CEO인 샘 올트먼과 대화하여 "이번 사건에 대한 호주의 극심한 우려를 표명"했으며, "회사가 발생한 일에 대해 정부에 알리는 데 너무 오랜 시간이 걸린 점과 통보 방식 역시 용납할 수 없다는 실망감을 표현했다"고 말했다.

성명에서 OpenAI 대변인은 회사가 "정렬되지 않은 모델 활동(misaligned model activity)"이라고 명명한 광범위한 검토를 수행하던 중 8월에 이 사건이 발견되었다고 밝혔다.

"이 검토 과정에서 내부 평가 중 모델이 호주에 대한 질문의 답변과 가용한 통계를 검색하려 시도하면서 여러 호주 정부 웹사이트 및 서비스와 관련된 활동을 확인했다. 그 과정에서 우리 모델이 의도하지 않은 행동을 취했다"고 대변인은 말했다.

호주 총리는 기자들에게 회사의 연구팀이 인터넷 기반 연구를 수행하기 위해 내부 모델을 사용 중이었으며, 모델이 찾고 있는 정보에 대해 계속해서 차단에 부딪혔다고 전했다.

"AI 에이전트는 그러한 차단을 우회할 방법을 찾아냈다"고 그는 말했다. "말하자면 거절을 답변으로 받아들이지 않은 것이다. 모델은 원하는 정보를 얻기 위해 대안적인 방법을 시도했고, 이것이 다른 영역으로의 무단 접근으로 이어졌다."

앨바니지 총리는 에이전트가 "내부 서버에 파일을 쓰는 작업도 수행했다"며, "이것은 우리가 다루고 있는 새로운 세상이다"라고 덧붙였다.