Meta detalha proteções do Muse Wonder para agentes de IA agindo em seu nome

Os modelos Muse Wonder e Muse Wonder Full da Meta foram criados para agentes de IA que lidam com tarefas como preparação de sinistros de seguros, revisão de contratos de aluguel e desenvolvimento de software. Os modelos combinam análise de documentos e uso de ferramentas com a capacidade de reter detalhes relevantes em conversas e trabalhar superando obstáculos em direção ao objetivo do usuário.

Destinados a uso comercial e de pesquisa, eles oferecem suporte a escrita, raciocínio, codificação, planejamento e pesquisa. Eles podem processar texto, imagens, vídeo e áudio, e produzir respostas em texto. Suas aplicações incluem ajudar usuários a interpretar informações especializadas e preparar rascunhos para revisão.

Segurança e alinhamento

Agentes que atuam em nome de um usuário podem lidar com mensagens, calendários e documentos privados. A Meta treinou os modelos para evitar o compartilhamento de informações privadas sem permissão e para recusar solicitações que auxiliem atos prejudiciais. Os modelos oferecem suporte a trabalhos defensivos de segurança cibernética, como a busca por falhas em códigos.

“O Muse Wonder é o nosso modelo mais alinhado até o momento, e o alinhamento é central para a forma como construímos superinteligência pessoal. Um relatório completo com avaliações de segurança adicionais estará disponível em breve”, disse a Meta.