아무리 귀여워 보여도 AI 에이전트는 당신의 친구가 아니다

AI 산업이 수익을 창출하는 비즈니스 모델을 만들기 위한 최근의 시도는 "에이전트"라는 틀로 짜여져 있습니다. 이는 직접적인 인간의 지시 없이 사용자를 대신해 프로세스를 실행하는 AI 제품을 설명하는 편리한 마케팅 용어이며, 종종 이메일, 메시지, 신용카드 거래 내역, 위치 기록 및 해당 회사와의 이전 채팅 기록에 대한 접근 권한을 필요로 합니다. 최근 몇 주 동안 Meta와 OpenAI는 소비자용 에이전트를 출시했습니다. 두 회사 모두 아이들 장난감처럼 브랜딩했으며 명백하게 아이들을 타겟으로 삼고 있습니다(하지만 Meta에게 그것에 대해 묻지는 마세요. 매우 불쾌해하니까요). 이들은 권한 부여의 한 형태로 판매됩니다. 그럼에도 불구하고, 이들은 소비자 유용성이나 안전보다 속도와 시장 선점을 반복적으로 선호해 온 사람들에 의한 추적 및 침해적인 데이터 수집에 기반한 불균형한 경제 위에 구축되었습니다. 이 장치들은 그들의 제품이 성공할 수 있도록 여러분에게 "몇 가지 나쁜 일들이 일어나는 것"을 받아들여야 한다고 생각하는 사람들에 의해 제공됩니다. 수년 동안 기업들은 광고에 사용되는 상세한 프로필을 구축하기 위해 웹사이트, 앱 및 기기 전반에서 사람들을 추적해 왔습니다. 이러한 프로필에는 재정, 건강, 위치, 관심사 및 행동에 대한 민감한 추론이 포함될 수 있습니다. 여기서는 챗봇과의 개인적인 상호 작용을 기반으로 구축되기에 더욱 심각합니다. 즉, 신호를 넘어서 추론을 하고, 이전에 챗봇 제품과 공유했을 수 있는 두려움, 불안 또는 어려움을 기반으로 제품이나 쿠폰으로 여러분을 타겟팅한다는 의미입니다. 이는 기술 기업들에게는 놀라운 거래입니다. 

그들은 더 많은 데이터, 더 많은 신뢰, 더 많은 접근 권한을 얻으면서도 책임은 훨씬 덜 집니다(여러분이 그 일을 해달라고 요청했기 때문입니다. 그들이 어떻게 하든 책임은 여러분에게 있습니다). 실제로 Muse의 서비스 약관(사용하는 것만으로 동의하게 되는)에는 "귀하는 Muse에 대한 귀하의 액세스 및 사용과 관련하여 귀하의 지시, 목표 및 안내를 촉진하기 위해 Muse가 취하거나 지시하는 행동에 대해 단독으로 책임을 집니다. 이는 정확한 지시, 식별된 목표, 일반적인 안내 또는 기타 결과인지 여부와 관계없이 이루어진 계약, 약속, 통신, 콘텐츠 또는 거래를 포함하되 이에 국한되지 않습니다."라고 명시되어 있습니다. 또한 "귀하의 요청이나 지시에 따라 Muse가 금융 거래, 결제, 구매 또는 이체를 포함하는 조치를 취하는 경우, 귀하는 그러한 조치 및 Muse 사용으로 인해 발생하는 모든 금융 손실 위험을 귀하가 부담하며... 적절한 한도 및 보호 조치(거래 한도 및 카테고리 제한 포함) 설정, 계정 모니터링, 해당 금융 기관 또는 결제 제공업체에 대한 시의적절한 오류 이의 제기에 대한 책임은 전적으로 귀하에게 있음을 인정하고 동의합니다."