이스라엘 변호사 협회, AI 에이전트 사용하는 변호사에 엄격한 규칙 설정

인공지능이 유혹적인 지름길을 제공하지만, 이스라엘 변호사 협회(Israel Bar Association)의 국가 윤리 위원회는 명확한 규칙을 세웠습니다. 자율 시스템과 AI 에이전트가 인간의 긴밀한 감독과 승인 없이 실질적인 법적 결정을 내리거나, 독립적인 법률 자문을 제공하거나, 법적 답변서를 작성하거나, 법적 절차를 진행하도록 허용해서는 안 됩니다.

목요일에 발표되고 국가 윤리 위원회 위원장인 Adv. Menachem Moskowitz가 서명한 업데이트된 의견서에서, 위원회는 AI가 감독을 받는 기술적 보조 도구 역할을 할 수는 있지만, 전체적인 법적 및 전문적 책임은 인간 변호사에게 남아 있음을 명확히 했습니다. 인간의 판단을 대신할 수 있는 것은 없습니다. 현재 이스라엘에는 약 100,000명의 변호사가 있습니다.

인공지능 시스템은 더 이상 사용자 프롬프트에 대응하여 특정 출력을 생성하는 도구에 국한되지 않습니다. 여기에는 더 높은 수준의 자율성을 가지고 작동할 수 있는 구성 요소나 시스템도 포함될 수 있습니다. 이러한 시스템은 때때로 “AI 에이전트”라고 불립니다. 그 결과, 위원회는 시스템의 자율성 수준이 높아질수록 사용과 관련된 윤리적, 전문적, 절차적 위험도 증가한다는 점을 변호사들이 인식해야 한다고 밝혔습니다.

AI 에이전트는 본질적으로 지속적인 인간의 개입 없이 작업을 수행하고, 워크플로우를 계획하며, 도구를 선택하고 외부 시스템 또는 환경과 상호 작용할 때 어느 정도의 자율성을 가지고 작동할 수 있는 인공지능 시스템입니다.

의견서에 따르면 “자율 시스템이나 AI 에이전트가 변호사를 대신하여 결정을 내리도록 허용하는 방식으로 사용해서는 안 된다는 것이 원칙입니다.” 여기에는 대리 관련 사항, 독립적인 법률 자문, 의뢰인, 법원 또는 제3자에 대한 대리 행위, 답변서 제출, 구속력 있는 문서의 송달 또는 충분한 인간의 감독 및 승인 없는 법적 절차의 추진이 포함됩니다.

그러나 위원회는 사전 인간 결정에 따라 수행되고 명확한 매개변수, 적절한 통제 및 인간의 감독 하에 수행되는 기술적이고, 국한되며, 문서화되고 되돌릴 수 있는 조치에 그러한 시스템을 사용하는 것에는 장애가 없다고 판단했습니다.

협회는 “시스템에 자율적 구성 요소나 ‘AI 에이전트’가 포함되어 있다는 사실만으로 반드시 사용이 금지되는 것은 아닙니다. 다만, 변호사는 대리 목적에 대한 사용의 적합성, 시스템이 수행하도록 허가된 작업의 성격, 그리고 실제로 적용되는 인간의 감독 수준에 대해 강화된 조사를 실시해야 합니다”라고 명확히 했습니다.