AI 에이전트, 오픈소스 보안 취약점 공개 방식 변화시킨다

Anil Madhavapeddy의 최근 기사는 AI 에이전트가 소프트웨어 취약점에 대한 공개된 단서를 작동 가능한 익스플로잇으로 전환할 수 있어 오픈 소스 프로젝트의 전통적인 취약점 공개 유예(embargo)의 효과를 저해한다고 주장합니다. 저자는 취약점 공개와 악용 사이의 시간이 단축됨에 따라 더 빠른 패치 및 릴리스 프로세스가 필요하다고 강조합니다.

경로 탐색(path-traversal) 취약점을 수정한 경험을 설명하며, Cambridge의 컴퓨터 과학 교수이자 OCaml 컴파일러의 핵심 유지 관리자인 Madhavapeddy는 다음과 같이 썼습니다:

패치 자체는 간단했으며 평상시라면 보안 절차는 비공개로 수정하고 영향을 받는 사용자에게 알린 다음 공개 권고안을 발행하는 것이었을 것입니다. 하지만 이번에는 문제를 해결하기 위해 PR을 연 지 불과 몇 분 만에 제 라이브 웹 서버 로그에서 정확한 버그 패턴을 가진 조사를 발견했습니다.

전통적인 보안 프로세스는 기술적 세부 사항을 비밀로 유지하는 것이 사용자를 보호한다는 가정하에 취약점 공개 유예에 의존합니다. 그러나 AI 에이전트는 제한된 단서로부터 독립적으로 취약점을 연구할 수 있습니다. 최근 연구에서 GPT-4 에이전트는 CVE 설명이 주어졌을 때 15개 취약점 벤치마크 중 87%를 익스플로잇했으며, 설명이 없을 때는 7%에 불과했습니다. "bugonomics"가 이제 OSS 유지 관리자에게 불리해졌다고 주장하며 Madhavapeddy는 다음과 같이 덧붙였습니다:

보안 프로세스를 어느 정도 뒤집어야 할 것으로 보입니다. 특정 이슈 클래스를 찾는 한 명의 사람(메일링 리스트 질문, 분리된 브랜치의 이상한 커밋 또는 컨텍스트 누출 등)만으로도 다른 사람의 에이전트에 경고를 보내고 익스플로잇 코드를 얻게 하기에 충분하기 때문입니다. 이것은 정말 놀라운 일입니다.

Chainguard의 개발자 관계 담당인 Adrian Mouat는 이것이 오픈 소스 유지 관리자들을 어려운 처지에 놓이게 한다고 말합니다:

이슈를 해결하기 위해 PR을 여는 것만으로도 프로젝트와 사용자는 좋지 않은 상황에 처하게 됩니다. 업데이트된 릴리스가 나오기도 전에 공격자가 익스플로잇을 생성하고 사용하기 시작할 수 있기 때문입니다. 사용자는 위험에 노출되지만 할 수 있는 일이 아무것도 없습니다. 이로 인해 프로젝트는 관련 소스 코드를 공개하기 *전*에 릴리스를 먼저 게시해야 할 수도 있습니다. 하지만 이는 오픈 소스의 근간을 깨뜨리는 일입니다.