프런티어 AI 모델 거버넌스에 대한 경고

프론티어 인공지능(AI) 모델 거버넌스가 의회에 상륙했습니다. Ted Lieu(민주-캘리포니아) 하원의원과 Nathaniel Moran(공화-텍사스) 하원의원의 AI Kill Switch Act는 국토안보부 장관에게 프론티어 모델을 늦추거나 중단할 수 있는 권한을 부여할 것입니다. John Kennedy(공화-루이지애나) 상원의원은 이러한 권한을 민간 행위자들에게 부여하는 다른 형태의 "킬 스위치" 법안을 발의했습니다. Jay Obernolte(공화-캘리포니아) 하원의원과 Lori Trahan(민주-매사추세츠) 하원의원의 FRONTIER Act는 규제 권한을 상무부와 독립 감사인에게 부여하며, AI 거버넌스가 “국가 안보 기구 내부에 묻혀서는 안 된다”고 주장합니다.

우리는 고조되고 있는 거버넌스 동력을 환영합니다. 이 문제는 사이버 보안 및 국가 안보 위협뿐만 아니라 노동의 미래와 지식에 대한 접근성까지 고려하는 총력 대응이 필요합니다. 하지만 의회와 다른 행위자들은 기술적으로 복잡하고 국가 안보와 밀접한 상황에서 흔히 발생하는 AI 규제에 대한 유혹, 즉 사이버 안보화(cybersecuritization)에 직면해 있습니다.

Cybersecurity Mission Creep

University of Illinois Law Review의 새로운 논문 “Cybersecurity Mission Creep”에서 저자 중 한 명인 Mailyn Fidler는 사이버 안보화가 무엇인지, 그리고 그것이 어떻게 작동하는지 설명합니다. 사이버 안보화가 발생하면, 정책 입안자들은 복잡한 문제를 기술적 복잡성과 공익에 대한 위험이라는 두 가지 차원으로만 단순화합니다. 이러한 복잡한 문제를 해결하기 위해 모든 정책 도구를 활용하는 대신, 정책 입안자들은 해당 문제의 “기술 위협” 측면에만 집중하는 투박한 비상 절차에 먼저 의존합니다.

이러한 논의의 과도한 단순화는 종종 문제를 일반적인 민주적 숙의 과정에서 떼어내 전문가와 비상 상황의 영역으로 옮겨 놓습니다. 정책 입안자와 기타 정부 행위자들은 기술 위협을 비전문가에게는 너무 기술적이고 정상적인 정치 과정에는 너무 긴급한 것으로 묘사할 수 있습니다. 이와 대조적으로, 멀웨어나 익스플로잇과 같은 전통적인 사이버 위협은 컴퓨터 시스템 자체를 위험에 빠뜨리며 패치나 책임 제도와 같은 기술적 수정으로 해결됩니다. 전통적인 사이버 보안 위협은 목록화되고 패치됩니다. 하지만 기술 위협은 다르게 규정됩니다. 정책 입안자들은 어떤 문제의 기술적 특성이 비기술적이고 사회적인 대상에 위험하다고 진단하며, 이는 누가 그 문제를 어떻게 해결할지 결정해야 하는지를 근본적으로 바꿉니다. 일반적인 해결책으로는 충분하지 않습니다. 결정 권한은 표준 사이버 보안 영역에서 기술적 위협뿐만 아니라 사회적 위협까지 해결할 수 있다고 주장하는 행위자들의 영역으로 넘어갑니다. 예를 들어, 인터넷을 보호하는 protocols 중 하나에서 취약점이 발견되었다고 가정해 봅시다. 이러한 종류의 위협에 대한 전통적인 대응은 취약점을 기록하고 패치를 배포하는 것입니다. 이제 대신, 당국이 이 취약점이 인터넷을 통해 이루어지는 사회 및 경제 활동을 불안정하게 만들 수 있다고 주장한다고 가정해 봅시다. 더 이상 정상적인 대응은 충분하지 않은 것처럼 보입니다. 프로젝트에 누가 참여할 수 있는지 규제하거나 프로젝트를 정부 감시 하에 두는 것이 적절한 대응으로 보일 수 있습니다. 결정 권한은 기술적 기여자들의 영역에서 위협의 기술적 및 사회적 측면을 모두 다룰 수 있다고 주장하는 기관으로 옮겨갑니다.