빅테크는 왜 AI 에이전트를 새로운 라부부로 만들려고 하는가?

이 에이전트들이 인류에 대한 잠재적 위협에 관한 광범위한 AI 종말론적 경고로 어려움을 겪고 있는 시기에 등장했다는 사실은 이러한 친근한 패키징을 더욱 극명하게 부각시킵니다.

“이 기업들이 투자자, 규제 당국 및 연구원들에게 말할 때 AI는 안전, 보안 및 통제와 관련된 심각하고 해결되지 않은 질문을 안고 있는 비정상적으로 강력한 기술로 묘사됩니다.”라고 사회 기술학자이자 기술과 문화 및 권력의 관계 전문가인 Sarah Saska 박사는 말합니다. “하지만 소비자에게는 동일한 기술의 점점 더 친밀해지는 버전이 친근하고, 장난스럽고, 마찰이 없으며, 위험도가 낮은 것으로 제시됩니다.”

OpenAI CEO인 Sam Altman이 Dots를 공개한 같은 주에, 회사는 바로 그 동일한 AI 에이전트 기술을 둘러싼 실존적 안전 문제로 인해 최신 AI 모델을 철회하고 IPO를 연기했습니다. 한편, Muse 출시 불과 몇 주 전, Meta는 자사의 Facebook 및 Instagram 플랫폼의 알고리즘 설계가 어린이에게 해를 끼친다는 주장을 해결하기 위해 기술 부문 역사상 최대 규모의 기업 합의금인 180억 달러를 미국 48개 주에 지급하기로 합의했습니다.

주요 경쟁사 내부에서도 안전 경고가 나오고 있습니다. Anthropic CEO인 Dario Amodei는 업계에 프런티어 AI 개발 속도를 늦출 것을 촉구했으며, 이 간청은 Altman, xAI의 Elon Musk, 그리고 Google DeepMind의 Demis Hassabis에 의해 공개적으로 지지되었습니다. (Zuckerberg는 업계 전반의 AI 개발 속도 둔화 요구를 거부하며 대신 개별 기업이 속도를 늦출지 여부와 시기를 스스로 결정해야 한다고 주장했습니다.)

그럼에도 불구하고 사용자들은 이러한 AI 에이전트에 흥미를 느끼고 있습니다. 출시 10일 만에 Muse는 730,000회 이상의 미국 다운로드를 기록했으며 Apple의 미국 App Store 순위에서 ChatGPT를 1위 자리에서 밀어냈습니다. 며칠 후, 에이전트에 대한 투자자들의 기대감은 Meta 주가를 단일 세션에서 11% 상승시켜 시가 총액을 약 1920억 달러 증가시키는 데 기여했습니다. 그러나 출시 후 처음 2주 이내에 민감한 정보를 공유하고 사용자가 명시적으로 승인하지 않았다고 말한 조치를 취하는 등 Muse가 사용자의 의도된 권한을 침범했다는 우려를 제기하는 여러 보고서가 나왔습니다.