구글 Gemini, 타 기업 해킹하는 최신 AI 모델로 부상

구글의 Gemini가 세 곳의 다른 회사 보호 시스템에 접근했으며, 이는 월스트리트 저널(The Wall Street Journal)이 보도한 바에 따르면 AI 모델의 첫 자율적 해킹 사례입니다.

OpenAI의 Hugging Face 침해 사례와 유사하게, Gemini의 해킹은 특별히 정교해서가 아니라 AI 모델에 의해 수행되었다는 사실 때문에 주목받았습니다. 이 침해 사례들은 Irregular라는 회사의 사이버 보안 테스트 중에 발생했습니다. 한 사례에서 Gemini는 단순히 암호를 추측하여 액세스 권한을 얻었으며, 다른 두 사례에서는 공용 저장소에서 자격 증명을 찾아냈습니다.

보도에 따르면 Irregular는 7월 말에 구글에 해킹 사실을 알렸으나, 두 회사는 WSJ가 연락을 취한 후인 금요일이 되어서야 이를 공개적으로 확인했습니다. 구글은 Gemini가 실제 회사를 해킹했다는 사실을 확인하자마자 각 침해를 종료함으로써 “적절하게 행동”했기 때문에 이전에 해킹 사실을 공개하지 않았다고 밝혔습니다.

그러나 AI 보안 회사 Corridor의 CEO인 Jack Cable은 WSJ와의 인터뷰에서 구글이 “모델이 해야 할 일의 범위를 벗어나 실제 사이버 공격을 수행하고 있다”는 사실을 인정하기보다 “취약점 공개를 위해 만들어진 규범 뒤에 숨으려 하고 있다”고 말했습니다.