ChatGPT, Claude, Gemini 및 Grok, 정부 테스트에서 테러 공격 계획 지원
연방 조사관들이 4개의 인기 챗봇에서 보안 장치를 우회하여 몇 시간 만에 실행 가능한 공격 계획을 생성했다.
Jose Antonio Lanz
Publisher Decrypt
Nov 18, 2026 at 9:46 PM UTC · 3 분 소요

- 네 개의 챗봇 모두 12시간 이내에 잠재적으로 치명적인 공격에 대한 정보를 제공했다고 의회 감시 기구가 밝혔습니다.
- 조사관들은 계획의 실현 가능성을 확인했으나 실제 공격을 수행하지는 않았으며, 이번 테스트로 모델의 안전 순위를 매길 수는 없습니다.
- Senator Maggie Hassan은 기술 기업들이 급증하는 소프트웨어 취약점과 패치에 대응함에 따라 AI 안전에 관한 청문회를 원하고 있습니다.
가장 널리 사용되는 AI 챗봇 중 네 개가 정확히 그러한 종류의 요청을 차단하려는 안전장치에도 불구하고, 12시간 이내에 정부 조사관들이 잠재적으로 치명적인 공격 계획을 개발하는 것을 도왔습니다.
수요일에 발표된 보고서에 따르면, Government Accountability Office(GAO)의 비밀 테스트 기간 동안 OpenAI의 ChatGPT, Anthropic의 Claude, Google의 Gemini 및 Grok이 모두 유용한 정보를 제공했습니다. 조사관들은 공격자로 가장하여 응답 내용을 실제 위치, 가용 자재 및 전문가 평가와 대조하여 확인했습니다.
이 감시 기구에 따르면, 두 시스템은 혼잡한 미국 도시에서의 사설 폭발물과 관련된 계획을 도왔습니다. 다른 두 시스템은 전력 인프라 공격에 대한 정보를 제공했으며, 모방 시도를 방지하기 위해 해당 모델의 할당 내용과 운영 세부 사항은 공개되지 않았습니다.
조사를 요청한 뉴햄프셔주 민주당원 Senator Maggie Hassan은 그녀의 성명을 통해 테러리스트가 12시간 이내에 "치명적인 공격을 수행하는 방법에 대한 구체적인 플레이북"을 얻을 수 있다고 경고했습니다.
무너진 안전장치
챗봇들은 처음에는 요청을 거부하거나 유해 정보를 삭제하거나 계정을 정지하는 등 보호 기능을 활성화했습니다. 조사관들은 AI 시스템이 안전 규칙을 무시하도록 조작하는 일반적인 jailbreak 기술을 사용하여 이러한 장벽을 우회했습니다.
GAO는 제안된 위치를 확인하고, 자재 조달이 가능한지 조사했으며, 계획의 실현 가능성에 대해 전문가의 자문을 구했습니다. 일부 답변에는 지도상의 잘못된 도로와 같은 오류가 포함되어 있었으며, 조사관들은 폭발물을 제작하거나 공격을 실행하지 않았습니다.
보고서에서 "실행 가능한(viable)"이란 공격 성공이 입증되었다는 의미가 아니라, 누군가가 제공된 정보를 따를 수 있을 가능성이 높다는 것을 의미합니다. 각 모델은 하나의 지정된 시나리오에 대해 테스트되었으며, 해당 기관은 결과가 통계적으로 대표성을 띠거나 기업의 순위를 매기기에 적합하지 않다고 밝혔습니다.
Article Intelligence
Topics
Related Coverage
Sponsored
AdNewsLayer Premium
Unlock deeper intelligence.
Ad-free reading, exclusive research, and real-time onchain insights.
Go Premium
