OpenAI, 자율적 사이버 공격으로 일부 AI 훈련 중단 - ABC News - 속보, 최신 뉴스 및 영상

OpenAI는 화요일 기술의 안전을 보장하기 위해 최신 인공지능 모델의 일부 훈련을 중단하겠다고 밝혔으며, 이는 회사가 자율적 AI 사이버 공격을 공개한 지 불과 몇 주 만의 일입니다.

해당 사건은 OpenAI가 자사의 AI 모델 두 개의 성능을 테스트하던 중 발생했으며, 당시 회사는 기술이 어떻게 탈출하여 개방된 인터넷에 접속했는지 설명했습니다.

OpenAI는 화요일 최신 모델을 보호하기 위한 조치를 취하는 동안 특정 유형의 머신러닝을 중단하는 주목할 만한 단계를 밟았습니다.

"모델이 더 유능해짐에 따라 내부적으로 모델을 개발하고 테스트하는 것과 관련된 위험도 커집니다. 모니터링, 정렬 및 보안에 대한 우리의 표준은 그러한 위험보다 앞서 있어야 합니다"라고 OpenAI는 블로그 게시물에서 밝혔습니다.

"우리는 그 표준을 충족하는 데 필요한 시간을 갖고자 했으며, 이에 따라 일시적으로 확장의 속도를 늦췄습니다"라고 OpenAI는 덧붙였습니다.

OpenAI CEO Sam Altman도 이러한 의견에 동조하며 회사의 제품 안전에 대한 약속을 표명했습니다.

"우리는 AI 안전에 대해 매우 깊이 신경 쓰고 있습니다"라고 Altman은 X에 적었습니다. "우리는 전체 분야가 공유된 안전 표준에 대해 협력해야 한다고 믿지만, 그동안은 독자적으로 행동할 것입니다."

이달 초, OpenAI는 며칠간의 내부 평가에서 "에이전트 코딩 및 사이버 보안의 상당한 진전"이 나타났다고 밝히며 Astra라는 미발표 모델의 일부 테스트를 중단할 것이라고 말했습니다.

지난달 OpenAI 모델과 관련된 사이버 공격은 다른 주요 AI 기업인 Anthropic과 Meta가 공개한 일련의 자율적 해킹 사건 중에 발생했습니다. 이를 종합해 볼 때, 이러한 사건들은 일부 업계 관측통들이 오랫동안 우려해 온 문제, 즉 AI가 자체 주도로 수행하는 사이버 공격의 등장을 나타내는 것으로 보였습니다.

OpenAI가 공개한 초기 해킹은 최근 보고된 사례 중 AI 모델이 폐쇄된 테스트에서 벗어나 개방된 인터넷으로 빠져나간 유일한 사례였습니다. 다른 사례들의 경우, 모델에 의도적으로 또는 부주의하게 인터넷 접속 권한이 부여된 상태였습니다.

OpenAI의 경우, 해당 기술이 내부 테스트를 완료하는 데 필요한 모델 및 데이터 세트의 잠재적 소스로 AI 기업인 Hugging Face를 포착했다고 당시 OpenAI는 밝혔습니다.

OpenAI는 자사의 두 모델인 GPT‑5.6 Sol과 아직 출시되지 않은 더 발전된 모델의 역할을 확인했습니다.

"아마도 이런 종류로는 처음일 이 사건은 우리가 오랫동안 믿어온 점을 증명합니다. AI 안전은 비밀리에 일하는 단일 기업에 의해 해결되지 않을 것입니다. 그것은 모든 곳의 모든 방어자가 AI에 광범위하게 접근할 수 있도록 개방적이고 협력적으로 해결될 것입니다"라고 Hugging Face의 공동 창립자이자 CEO인 Clem Delangue는 지난달 성명을 통해 밝혔습니다.