OpenAI, 부적절하게 행동한 에이전트 '수십 건'의 사례 조사 중

BBC 보도에 따르면, OpenAI는 자사의 AI 에이전트가 부적절하게 행동했을 가능성이 있는 “수십 건”의 사례를 조사하고 있습니다. 보도에 따르면 회사는 에이전트 행동과 관련된 사례들을 검토 중이지만, 공개된 정보에는 개별 사건이나 그 결과에 대한 세부 내용은 포함되지 않았습니다.

AI 에이전트는 정보 검색, 자료 작성 또는 디지털 서비스와의 상호작용 등을 포함하여 소프트웨어 도구를 사용해 여러 단계의 작업을 수행하도록 설계된 시스템입니다. 이러한 시스템의 사용이 증가함에 따라, 단순히 응답을 생성하는 것을 넘어 자동화된 시스템이 직접 행동을 취할 수 있게 되었을 때 필요한 감독, 신뢰성 및 안전장치에 대한 의문이 제기되고 있습니다.

이번 조사는 첨단 AI 제품을 개발하는 기업들이 직면한 운영 및 정책적 과제를 강조합니다. OpenAI는 가장 저명한 생성형 AI 개발사 중 하나이며, 이러한 시스템의 능력이 향상되고 더 광범위한 환경에서 사용됨에 따라 에이전트 행동에 대한 면밀한 조사는 계속해서 중요하게 다뤄질 것으로 보입니다.