Microsoft：将 AI 智能体视为内部威胁

微软已敦促各机构将 AI 智能体视为内部威胁，据 CSO Online 的一份报告显示。该警告凸显了人们对软件智能体日益增长的安全担忧，这些智能体在代表员工或机构行事时，可以访问内部业务系统、数据和工作流。

AI 智能体是基于 AI 的工具，旨在执行检索信息、生成内容、与软件交互以及帮助自动化工作流等任务。与功能定义狭窄的传统应用程序不同，智能体可能会被授予访问公司敏感资源的权限以完成任务，这使得访问控制和监管成为核心安全考量。

内部威胁通常涉及由信任访问创建的风险，无论是通过恶意活动、错误还是凭证泄露。将该模型应用于 AI 智能体，强调了机构需要考虑智能体可以触及哪些系统、可以处理哪些数据以及如何监控其行为。随着企业在内部运营中部署生成式 AI 工具，这一问题变得越来越具有相关性。