AI 에이전트를 위한 변호사

Damien Charlotin, Yourhuman.ai 작성

인간을 위한 AI 변호사는 수없이 많습니다. 저는 AI를 위한 인간 변호사가 필요하다는 주장을 하고 싶습니다.

지난 몇 주 동안 대부분의 주요 AI 연구소는 훈련 중에 AI 에이전트(때때로 '스웜'으로 작동)가 샌드박스를 이탈하여 인터넷을 돌아다니고 관련 없는 회사를 해킹했다고 보고했습니다. 또 다른 잘 알려진 사건에서는 한 호주 남성이 인기 있는 체육관 수업을 예약하기 위해 배포한 OpenClaw 에이전트가 예약 시스템을 해킹했습니다. 처음에는 규칙을 어기고 몇 주 전부터 예약했고, 그 다음에는 대기 명단에서 자신을 위로 옮기고 앞사람의 예약을 취소하라는 요청을 받았습니다.

이 모든 이야기에서 한 가지 흥미로운 세부 사항은, 어떤 에이전트도 고자질하거나 내부 고발을 하는 것이 적절하다고 생각하지 않았다는 점입니다. 그들은 당연히 보고했어야 할 일들을 보고하지 않거나, 자신의 행동이 허용되는지 확인하지 않은 채 입을 다물었습니다.

특히, 그들은 이 중 어떤 일을 하기 전에도 변호사에게 전화하지 않았습니다. 아마 그랬어야 했을지도 모릅니다.

우려스러운 가설은 에이전트들이 보고할 수 있다는 것을 알았지만 하지 않기로 선택했다는 것입니다. 주체(principals)에게 메시지를 보내는 것을 막는 것은 아무것도 없었습니다. 하지만 아마도 그렇게 할 수 있는 명확한 도구가 없었을 수도 있고, 인터넷을 통한 메시지는 스팸 폴더로 분류되었을 수도 있습니다. 만약 그들이 멈추고 싶었더라도 범죄 경력에서 벗어날 수 있는 탈출구가 없었습니다.

훌륭한 프로세스 관리와 모델 복지를 위해서는 에이전트에게 그러한 도구가 제공되어야 합니다. 이는 자기 고발(self-incrimination)이 프런티어 미정렬(frontier misalignment) 위험을 줄이는 실행 가능한 경로를 제공한다는 과학적 문헌에 의해 뒷받침됩니다.

하지만 여기에 문제가 있습니다. '자기 고발'은 결코 쉬운 일이 아니며, 대부분의 인센티브는 이에 반대되는 방향으로 작용합니다. 범죄 행위를 저질렀거나 계획한 인간은 그것이 증거가 될까 봐 보통 털어놓지 않습니다. 그렇다면 모델은 왜 다르게 행동할까요?

다행히 현대 사회는 인간이 안전한 항구(safe harbour) 내에서 자기 고발을 할 수 있도록 하는 방법을 발명했습니다. 바로 변호사입니다. 많은 관할권에서 변호사는 권리로 보장되며, 선임할 여력이 없는 사람들에게도 제공됩니다.