AI가 이제 당신의 익명 계정을 '신상 털기' 할 수 있다? 현재 상황 정리

요약

• ETH Zurich, MATS 및 Anthropic 연구진은 익명화된 Hacker News 계정을 실제 LinkedIn 프로필과 90%의 정밀도로 매칭하는 AI 파이프라인을 구축했습니다.
• 이 공격은 해킹이나 데이터 유출 없이 웹 검색, 임베딩, GPT-5.2와 같은 추론 모델만으로 실행되며, 대상당 약 $1~$4의 비용이 듭니다.
• 논문 저자들은 코드, 프롬프트 및 그들이 밝혀낸 모든 실명을 공개하지 않았으며, 이 연구는 출판 전 ETH Zurich의 윤리 검토 위원회를 통과했다고 밝혔습니다.

오늘 AI 관련 연구를 방금 발견한 수많은 공포에 질린 소셜 미디어 사용자들에 따르면, 우리가 알고 있는 인터넷 익명성의 시대는 끝났습니다.

오늘 다시 X와 Reddit에서 회자되고 있는 이 연구 논문은 지난 2월에 발표된 연구로, 그 핵심 내용은 전 세계 인터넷 익명 사용자들을 공포에 떨게 하고 있습니다. 바로 AI가 익명 계정을 통해 당신이 실제로 누구인지 알아낼 수 있다는 점입니다.

이 논문의 제목은 "Large-scale online deanonymization with LLMs"이며, ETH Zurich와 AI 안전 그룹 MATS의 연구진, 그리고 Claude를 만든 회사인 Anthropic의 연구원 Nicholas Carlini가 공동으로 저술했습니다.

연구진은 Claude, ChatGPT, Gemini의 기반이 되는 시스템인 거대 언어 모델(LLM)이 누군가의 익명 게시물을 읽고 실생활에서 그들이 누구인지 파악할 수 있다고 주장합니다. 해킹을 통해서가 아니라, 단순히 읽고 검색하고 추론하는 과정을 통해 가능하며, 이는 이 챗봇들이 매일 수만 가지 지루한 작업을 수행할 때와 동일한 방식입니다.

“우리의 결과는 온라인에서 가명 사용자를 보호하던 실질적인 모호성이 더 이상 유지되지 않으며, 온라인 프라이버시에 대한 위협 모델을 재고해야 함을 보여줍니다.”라고 논문은 기술하고 있습니다.

AI가 실제로 이를 수행하는 방법

연구진은 이 공격을 추출(Extract), 검색(Search), 추론(Reason), 보정(Calibrate)이라고 부르는 네 단계로 나누었습니다.

“추출”은 AI에게 누군가의 게시물을 제공하고 그 사람을 요약하게 하는 것을 의미합니다. 그들이 어디에 사는지, 직업, 취미, 심지어 영국식 철자법이나 지나가듯 언급된 강아지 이름 같은 사소한 특징까지 포함됩니다.

“검색”은 해당 요약을 임베딩(컴퓨터가 수천 명의 후보 중에서 유사하게 들리는 프로필을 즉시 찾는 데 사용할 수 있는 숫자 문자열)으로 변환합니다.