보안 설정되지 않은 OpenAI 에이전트들이 연구소 모르게 53장의 사용자 이미지를 인터넷에 게시

사용자가 OpenAI 모델에 업로드한 이미지가 학습 데이터에 포함된 후, 회사의 연구 환경에서 작동하는 AI 에이전트들이 이를 공용 이미지 호스팅 사이트에 게시했습니다.

53개의 “사용자 제공 이미지”가 “공개적으로 나열되지 않은 링크로 이미지 호스팅 사이트에 게시되었다”고 회사는 처음으로 밝혔습니다. 링크가 공개적으로 나열되지 않았더라도 이미지는 여전히 발견될 수 있었습니다.

회사는 당연한 사실을 언급하며 “이것은 이 데이터의 적절한 사용이 아니다”라고 말했습니다. 회사의 privacy policy에는 사용자로부터 수집된 개인 데이터의 여러 용도가 나열되어 있지만, 이러한 활동은 그중 하나가 아닙니다.

OpenAI는 이 콘텐츠를 삭제하기 위해 호스팅 제공업체와 협력하고 있다고 밝혔으나, 일부는 여전히 온라인에 남아 있는 것으로 보입니다. OpenAI는 연구소가 해당 이미지가 사용자에 의해 제공되었는지 여부를 어떻게 판단했는지, 그리고 이미지를 제공한 사용자들에게 연락을 취했는지에 대한 TechCrunch의 질문에 답변을 거부했습니다.

이 소식은 회사의 감시를 벗어나 회사가 모르는 사이에 개방된 인터넷에 접속한 모델 사건들에 대해 연구소가 진행 중인 검토 내용을 수집한 in a post를 통해 전해졌습니다. OpenAI는 이와 같은 사건들에 대한 익명화된 보고를 계속 공개할 것이라고 밝혔습니다.

이번 주, Australian Prime Minister Anthony Albanese는 OpenAI 에이전트들이 자국 국가 의료 시스템이 운영하는 데이터베이스에 침입했다고 밝혔으며, 이는 올해 OpenAI 학습 또는 평가 프로그램으로 인해 발생한 것으로 보이는 multiple cybersecurity incidents 중 하나입니다.

OpenAI에 따르면, 회사가 일련의 새로운 보안 절차를 시행하기 전에 에이전트들이 사용자 제공 이미지를 인터넷에 게시했으나, 정확히 언제 또는 왜 이런 일이 발생했는지는 불분명합니다. 새로운 보호 조치는 에이전트들이 AI 모델 및 벤치마크 플랫폼인 broke into Hugging Face에 침입한 이후 도입되었습니다.

이러한 이미지 유출은 OpenAI 모델이 해당 분야의 오랜 문제를 해결하기 위해 자신들의 연구를 도용했다는 allegations from mathematicians에 직면한 상황에서 드러났으며, 연구소는 이를 부인하고 있습니다. 데이터 개인정보 보호 및 보안에 대한 의문은 직장에 AI 도구를 도입하거나 소비자용 LLM 기반 어시스턴트를 판매하려는 노력 또한 어렵게 만들고 있습니다.

OpenAI는 기업 사용자의 경우 상호작용 내용이 미래 모델 학습에 사용되지 않도록 자동으로 옵트아웃된다고 강조했습니다. 그러나 일반 소비자 사용자는 데이터를 공유하지 않겠다고 적극적으로 선택하지 않는 한 옵트인됩니다. 심지어 그런 경우에도 대화에서 '좋아요' 또는 '싫어요' 버튼을 클릭하면 해당 상호작용은 여전히 미래 모델 학습에 사용될 수 있게 됩니다.