인터넷은 인간의 주체성을 위해 설계되었습니다. AI 에이전트가 그 규칙을 바꾸고 있습니다.

정책 입안자들은 인공지능을 소셜 미디어나 클라우드 컴퓨팅과 유사한 소프트웨어 애플리케이션의 새로운 범주인 것처럼 계속해서 논의하고 있으며, 이 기술을 사실상 인터넷 아키텍처에 추가된 또 다른 도구로 취급하고 있다. 하지만 AI 에이전트가 확산됨에 따라, 이들은 인터넷이 무엇을 하느냐가 아니라 누가 인터넷을 통해 행동하느냐라는 더 깊은 가설에 도전하고 있다. 그리고 에이전트와 관련된 초기 사건들은 인간의 행위 주체성을 존중하고 보호하는 인터넷의 새로운 아키텍처 계층이 필요함을 시사한다.

AI 에이전트를 단순히 '사용자'로 보는 순진한 해석이 있다. 디지털적으로 그들은 콘텐츠를 검색하거나 쇼핑을 하는 등 온라인에서 상호작용하는 여느 사람과 다르지 않다. 그러나 '에이전트'라는 용어가 암시하듯, 그들은 인간이나 조직과 네트워크 사이의 중개자로 존재한다. 사회 과학자들은 오래전부터 “대리인 문제(principal-agent problems)”를 논의해 왔지만, 이는 인간 대리인을 대상으로 한 것이었다. 이 연구 분야는 선출직 공무원, 보험 대리인, 브로커, 부동산 중개인 등 타인을 대신해 행동하는 사람들 사이의 법적, 계약적, 의사소통 관계를 관찰한다. 이 방대한 문헌은 대리인을 의도치 않게 어긋난 방식으로 행동할 수 있는 정보가 불완전한 행위자로 본다. 에이전트 방식의 AI도 이와 유사하게 보아야 하지만, 훨씬 더 대규모로 고려되어야 한다.

이러한 역량, 잠재적 위험 및 비대칭성을 수백만 건의 배포 사례로 곱해보면 그 영향은 훨씬 더 커진다. 점점 더 많은 인터넷 트래픽이 단순히 인간이 링크를 클릭하거나 메시지를 보내거나 구매를 하는 것을 나타내지 않게 될 것이다. 대신 인간을 대신해 행동하는 소프트웨어를 나타낼 것이며, 이는 다른 인간과 조직을 대신해 행동하는 다른 소프트웨어와 다양한 성공률로 점차 상호작용하게 될 것이다.

인간은 여전히 본인(principal)으로 남지만, 소프트웨어는 점차 위임된 권한을 행사하는 행위자가 된다. 이제 문제는 단순히 사용자나 기기를 인증할 수 있느냐가 아니다. 다음과 같은 질문이 중요해진다. 어떤 에이전트가 행동하고 있는가? 누구를 대신해서인가? 누가 권한을 부여했는가? 정확히 무엇을 하도록 권한을 부여받았는가? 얼마 동안인가? 어떤 조건 하에서인가? 이러한 권한을 확인, 제한, 감사 및 취소할 수 있는가?

정책 세계는 충돌(해야) 한다

오늘날의 정책 논의는 크게 두 개의 분리된 커뮤니티로 나뉘어 있다. 인터넷 거버넌스는 인프라, 표준, 상호 운용성, 사이버 보안 및 디지털 권리에 초점을 맞춘다. AI 거버넌스는 모델, 즉 모델이 어떻게 학습되는지, 안전한지, 어떤 결과물을 생성하는지에 집중한다. 두 대화 모두 필요하지만, 어느 쪽도 충분하지 않다.