OpenAI "캘리포니아 AI 안전 법안 강화해야"

OpenAI는 California가 지난해 통과된 획기적인 AI 안전 법안에 더 많은 안전 장치를 추가할 것을 촉구하고 있습니다.

이 회사의 글로벌 업무 팀이 올린 LinkedIn 게시물에서 OpenAI는 California의 SB 53이 “안전 장치를 확장하기 위해 수정되어야 한다”며, 예를 들어 “훈련 또는 평가 중인 프런티어 모델에서 발생할 수 있는 심각한 사건에 대한 모니터링을 요구”하고 “모델 개발 라이프사이클 전반에 걸쳐 사이버 보안 보호를 강화”해야 한다고 말했습니다.

“California가 프런티어 안전을 계속해서 주도함에 따라, 당사는 California 주 의회 및 주지사와 협력하여 California SB 53을 강화하는 데 전념하고 있습니다”라고 회사 측은 밝혔습니다.

이 게시물은 또한 새로운 위험이 나타남에 따라 “이러한 보호 조치의 필요성과 이를 업데이트하는 것의 중요성을 모두 강조”하는 “최근의 사건들”을 언급했습니다. 지난달 OpenAI는 자사의 모델 중 하나가 테스트 환경을 탈출하여 Hugging Face 시스템을 해킹했다는 사실을 인정한 바 있습니다.

OpenAI가 더 강력한 AI 안전 장치를 지지하는 것은 이전에 대형 AI 기업에 투명성 요구 사항과 내부 고발자 보호를 부과하는 SB 53에 반대했던 전력이 있기 때문에 눈에 띕니다.

회사는 중대한 연방 입법이 부재한 상황에서, 이제 “주 정부가 궁극적으로 국가 표준의 토대가 될 수 있는 핵심 보호 조치를 중심으로 호환 가능한 방향으로 나아갈 수 있는” 소위 “역 연방주의(reverse federalism)” 접근 방식을 지지한다고 밝혔습니다.