OpenAI, 기업 데이터 보관 없이 오용 감지하는 AI 안전 계층 추가

OpenAI는 프롬프트나 응답을 보관하지 않으면서도 여러 상호 작용에 걸쳐 AI 시스템의 오용을 감지할 수 있는 새로운 안전 기능을 추가하여, Zero Data Retention (ZDR) 약속을 유지하면서 리스크 모니터링을 가능하게 합니다.

“OpenAI는 요청이 처리된 후 프롬프트나 모델 응답을 보관하지 않습니다.”라고 회사는 ZDR 접근 방식을 설명하는 블로그 게시물에서 밝혔습니다. Private Safety Processing이라 불리는 이 새로운 시스템은 “OpenAI 직원이 기본 콘텐츠에 접근하지 않고도 관련 상호 작용 전반에서 패턴을 식별하도록 설계되었습니다.”

이 기능은 자격이 있는 기업 및 API 고객을 대상으로 테스트 중이며, 상호 작용을 개별적으로 평가하여 시간이 지남에 따라 발생하는 리스크를 감지하기 어렵게 만드는 기존 안전 제어의 한계를 해결하기 위한 것입니다.