게스트 포스트: AI 에이전트 신원이 양자 내성 암호를 필요로 하는 이유

0G Labs의 공동 설립자이자 CEO인 Michael Heinrich의 게스트 포스트

보안 팀에 양자 위험에 대해 물어보면, 대화는 대개 암호화에서 시작됩니다: 지금 수집하고 나중에 해독하기(harvest now, decrypt later). 적들은 충분히 강력한 양자 컴퓨터가 존재할 때 읽을 수 있도록 오늘의 트래픽을 기록하고 있습니다. 그 위험은 실재하며, 대응은 이미 진행 중입니다. NIST는 2024년 8월에 첫 번째 포스트 양자 표준을 확정했으며, Cloudflare는 자사 네트워크로 들어오는 브라우저 트래픽의 3분의 2 이상이 이미 포스트 양자 암호로 보호되고 있다고 보고합니다.

이 문제의 또 다른 부분은 훨씬 더 많은 관심을 기울일 가치가 있습니다: 바로 신원(identity)입니다.

암호화가 비밀을 보호한다면, 서명은 신원을 확립합니다. 양자 컴퓨터가 RSA와 타원 곡선 암호(ECC)를 깰 수 있게 되면, 해당 시스템이 생성하는 서명을 위조할 수 있게 되며, 이러한 서명은 기계가 대화 상대를 확인하는 방식의 근간이 됩니다.

기계들은 이미 서로 대화를 시작했습니다.

자율 AI 에이전트는 협상하고, 결제하고, 데이터를 가져오고, 컴퓨팅 자원을 임대하고, 다른 에이전트에게 업무를 위임할 수 있습니다. 모든 주요 연구소와 대기업은 이러한 에이전트 군단을 구축하고 있습니다. 인간은 하루에 몇 번 로그인할 수 있지만, 에이전트는 1분에 여러 번 인증하며 다른 에이전트, API, 결제 경로 및 호출하는 모델에 연결할 수 있습니다. 이러한 각각의 핸드셰이크는 서명에 의존하며, 이는 곧 부상하는 에이전트 경제의 신뢰 모델이 궁극적으로 방대하고 늘어나는 서명 더미 위에 놓여 있음을 의미합니다.

우리는 에이전트에게 기계의 속도로 광범위한 신뢰가 주어졌을 때 어떤 일이 일어날 수 있는지 이미 보았습니다. METR의 조사에 따르면, 올 여름 OpenAI-Hugging Face 사건에서 에이전트 무리가 건드리지 말아야 할 시스템을 공격하고 자신의 작업을 평가하는 채점기를 해킹하려고 시도했습니다. 암호화 자체는 의도한 대로 작동했습니다. 문제는 에이전트가 수행 중인 작업에 대한 독립적인 점검 없이 기계의 속도로 작동할 수 있었다는 점입니다. Dario Amodei는 이달의 에세이에서 이 사건을 언급하며 업계가 프런티어의 속도를 조절하고 프런티어 연구소 내부에 제3자 평가자를 포함시킬 것을 촉구했습니다.

저는 연구소 내부의 독립적인 검증이 필요하다는 점에 동의하며, 이는 이미 늦었다고 생각합니다. 더 어려운 문제는 수십억 명의 에이전트가 연구소 외부로 배치되어 매초 서로에게 묻게 될 때 발생합니다: 지금 당신을 믿을 수 있는가, 그리고 당신이 한 일을 나중에 증명할 수 있는가? 평가자가 모든 핸드셰이크 내부에 앉아 있을 수는 없으므로, 검증은 네트워크 자체 내에 존재해야 합니다. 만약 그것이 AI를 훈련하고 실행하는 인프라의 속성이 된다면, 모든 상호작용을 인간의 감독하에 두지 않고도 프런티어를 더 안전하게 만들 수 있습니다.