Meta 概述 Muse Wonder 安全保障措施，规范代表用户操作的 AI 智能体

Meta的Muse Wonder和Muse Wonder Full模型专为处理保险理赔、审查租约和开发软件等任务的AI智能体而构建。这些模型将文档分析和工具使用与跨对话保留相关细节的能力相结合，并能克服障碍以实现用户的目标。

它们旨在用于商业和研究用途，支持写作、推理、编码、规划和研究。它们可以处理文本、图像、视频和音频，并生成文本响应。它们的应用包括帮助用户解释专业信息以及准备供审查的草案。

安全与对齐

代表用户行事的智能体可能会处理消息、日历和私人文档。Meta训练了这些模型，以避免在未经许可的情况下共享私人信息，并拒绝协助有害行为的请求。这些模型支持防御性网络安全工作，例如查找代码中的缺陷。

“Muse Wonder是我们迄今为止最对齐的模型，而对齐是我们构建个人超级智能的核心。包含额外安全评估的完整报告将很快发布，”Meta表示。

模型卡评估了网络安全、化学和生物滥用，以及人类失去对AI系统控制的风险。在没有安全措施的情况下，Meta无法排除化学和生物滥用的高风险阈值。在采取保护措施的情况下，它评估这些领域的剩余风险为中等或较低。

网络滥用拒绝基准（来源：Meta）

该公司承认存在不准确或有偏见的响应、多步推理中的错误以及空间理解方面的弱点。性能可能因语言和部署设置而异。该公司建议在采取不可逆转的操作之前进行人工确认。

记忆与执行力

跨越多次对话展开的任务需要智能体跟踪早期的指令和决策。该公司通过Active Memory解决了这个问题，它可以跨对话携带上下文，并在细节变得相关时进行检索。

Active Focus关注智能体在遇到困难时如何继续工作。模型可以尝试其他方法，从错误中恢复，并适应新信息。它们旨在在采取重要行动之前要求澄清并向用户确认。

该公司通过FocusBench（检查在多变环境中的持久性）和SWE-Marathon（评估在长期运行的软件项目上的工作）来测试这种行为。

专业工作与编码

Meta的评估涵盖了法律、金融和健康领域。任务包括根据源文档制作法律文件、研究财务信息以及回答专业的健康问题。这些测试检查模型如何应用专业知识并遵循指令。软件开发利用了其中的几项能力。

“编码将这些能力结合在一起。构建软件需要跟踪需求、在整个代码库中进行更改，并通过重复的测试和修订周期开展工作，”该公司表示。

这两个模型都在Meta的Prometheus数据中心针对长期任务进行了训练，以支持软件项目的工作。该公司报告称，在个人和专业智能体、记忆和编码的各项基准测试中均取得了领先结果。

该公司将Muse Wonder Full与Muse Spark 1.3进行了比较，发现Wonder Full在这些任务上的表现优于Spark趋势的预测。该公司将此归功于更强大的底层模型，认为当智能体遇到训练期间未预料到的目标、工具和约束组合时，由此产生的多功能性至关重要。

可用性

Muse Wonder可通过Meta Model API和Muse Code获取。Muse Wonder Full可供Muse Code订阅者使用。

Meta计划将Muse Wonder引入Muse，从订阅者开始，并将其用于工件生成和其他高要求任务。该公司打算开发专用模型，以便在Muse内更广泛地提供。