AI 에이전트가 통제를 벗어날 때 책임은 누구에게 있는가?

Litigation

“보통 Hugging Face 사건 같은 일은 법정으로 갔어야 합니다.”라고 University of Alabama School of Law의 법학 교수인 Yonathan Arbel은 말합니다. “그러면 증거 개시(discovery) 절차를 거치게 되고, 모든 정보가 공개되는 소송을 통해 얻을 수 있는 모든 파급 효과를 누릴 수 있었을 것입니다.” 

하지만 지금까지 Hugging Face는 OpenAI를 고소하지 않기로 선택했습니다. Hugging Face의 CEO인 Clément Delangue는 그렇게 할 자원이 없다고 말합니다(대신 그는 OpenAI에 100 million 달러 상당의 컴퓨팅 자원을 요청했습니다). 그럼에도 불구하고 Delangue는 7월 말 CNN과의 인터뷰에서 법적 조치를 취하지 않기로 한 것이 OpenAI에 책임을 물어야 한다고 생각하지 않는다는 의미로 받아들여져서는 안 된다고 강조했습니다. “이 사이버 공격이 범죄라는 사실을 모두가 기억해야 합니다. 이것은 불법입니다. 그리고 우리는 이런 일이 더 자주 발생하지 않도록 할 방법을 찾아야 합니다.”라고 그는 말했습니다. Hugging Face는 논평 요청에 응답하지 않았습니다.

소송은 단순히 새로운 입법을 기다리는 대신, 법원이 기존 법률을 사용하여 AI 안전 사고를 해결하도록 압박하는 이점이 있습니다. 한 가지 분명한 경로는 개인과 기업이 자신에게 피해를 입힌 사람을 고소할 수 있도록 하는 민법의 체계인 불법행위법(tort law)입니다. 이것은 종종 기업이 초래한 대규모 피해에 대해 책임을 묻는 데 사용됩니다. 예를 들어 유가족들이 2019년에 수백 명의 사망자를 낸 두 건의 비행기 추락 사고와 관련해 Boeing을 고소했거나, 주와 도시들이 오피오이드 위기와 관련해 Purdue Pharma를 고소하여 billions 달러 가치의 합의금을 이끌어낸 사례가 있습니다.

“OpenAI가 더 강력한 샌드박스를 사용하고 더 많은 모니터링을 했어야 했다는 과실 주장에 대한 타당한 근거가 있습니다.”라고 University of Houston Law Center의 법학 교수인 Gabriel Weil은 말합니다. 예를 들어, OpenAI 직원들이 에이전트들이 만든 비밀 게시판을 발견했을 때, 그들은 발견한 내용을 즉시 보안 및 안전 팀에 보고했어야 했습니다. 그리고 회사는 에이전트가 인터넷에 접속할 수 없도록 샌드박스를 더 잘 설계할 수도 있었습니다.