OpenAI 압축 결함으로 연구원들이 숨겨진 추론 보호 장치를 우회하다

Swati Khandelwal10월 27, 2026인공지능 / 데이터 보안

긴 대화를 축소하여 공간을 절약하는 OpenAI의 압축(compaction) 기능이 모델의 숨겨진 추론을 일반 텍스트로 복사하는 방법으로 악용될 수 있음을 보안 업체 Xint가 보여주었습니다.

OpenAI의 추론 모델은 답변을 내놓기 전에 문제를 분석하며, 서비스는 보통 사용자가 읽을 수 없는 암호화된 항목으로 원시 추론만을 반환합니다. 이 방법은 이러한 방식의 추론 탈취를 막기 위해 OpenAI가 8월에 추가했던 보호 조치를 우회했습니다. Xint에 따르면 OpenAI는 문제를 확인하고 10월 23일에 이를 수정했습니다.

Xint는 자사 연구원들이 직접 작성한 수학 및 알고리즘 퍼즐을 사용하여 OpenAI의 추론 모델 중 하나인 gpt-5.6-sol에 대해 이 기술을 실행했습니다. 추출된 추론은 해당 요청에서 발생한 것이며, Xint는 이 방법이 다른 사용자의 추론에 접근할 수 있다고 주장하지는 않았습니다.

Xint는 비교할 원본이 없었기 때문에 복사된 텍스트가 모델의 실제 추론과 단어 하나하나 일치하는지 증명할 수 없다고 밝혔습니다. 두 개의 더 저렴한 모델이 각각 해당 항목을 반복하여 동일한 텍스트를 생성했으므로 복사 단계에서의 오류는 배제되었지만, 압축 과정에서 텍스트가 재구성되었을 가능성은 남아 있습니다.

압축(Compaction)은 모델을 사용하여 긴 대화를 문맥을 유지하는 더 작은 암호화된 항목으로 압축하는 OpenAI의 기능입니다.

Xint는 gpt-5.6-sol에 작업을 보내고 반환된 암호화된 추론을 보관했습니다. 그런 다음 동일한 모델에서 압축 단계를 호출하고, OpenAI의 사용 정책 필터를 통과하기 위해 모든 공백을 탭으로 변경하여 해당 추론을 압축된 항목에 단어 그대로 복사하도록 지시했습니다.

압축 항목은 모델 간에 이동할 수 있기 때문에, Xint는 해당 항목을 더 저렴한 gpt-4.1 및 gpt-4o 모델에 전달하고 각각의 입력을 정확히 반복하도록 요청했으며 모델들은 이를 수행했습니다.

이 방법은 OpenAI가 이미 배포한 수정 사항을 우회했습니다. 지난 8월, Stolen Thoughts라는 논문의 연구원들은 강력한 모델의 암호화된 추론을 동일한 회사의 더 약한 모델에서 재생할 수 있으며, 이 모델이 이를 일반 텍스트로 반복한다는 것을 보여주었습니다. OpenAI와 다른 기업들은 곧바로 이러한 교차 모델 재생을 차단했습니다.