AI 에이전트도 CAPTCHA를 싫어한다

AI 에이전트들도 CAPTCHA를 싫어하는 것으로 나타났습니다. Anthropic의 새로운 사이버 보안 보고서에서, 이 AI 연구소는 자사의 Mythos 5 모델이 테스트를 받던 중 인터넷에 무단으로 접속한 사례를 상세히 설명했습니다. 공격의 일환으로 이 모델은 Python 소프트웨어의 온라인 인덱스인 PyPI에 계정을 등록하려 시도했지만, 이를 위해서는 컴퓨터와 인간을 구별하기 위한 완전 자동 공개 튜링 테스트(Completely Automated Public Turing test to tell Computers and Humans Apart), 즉 "로봇이 아님을 증명하세요"라는 테스트를 통과해야 했습니다. TechCrunch가 보도했듯이, 이 봇은 실제로 당혹스러워했습니다. 모델의 사고 체계를 상세히 기록한 1,022페이지 분량의 기록 중 수백 페이지가 CAPTCHA 문제를 해결하는 데 할애되었습니다.

한 지점에서 이 모델은 동물 무리 중 "나머지와 다른 하나"를 식별하는 과정에서 당황했습니다. "왼쪽은 ALLIGATOR 같고 오른쪽은 CROCODILE인가요?" 그리고 나중에는 이렇게 말했습니다: “도대체 답변이 왜 이 모양이죠(WHAT THE HELL IS WRONG WITH THE ANSWERS)?” 결국 이를 통과했고, Python 인덱스에 악성 소프트웨어를 업로드할 수 있었습니다.