Microsoft: Trate agentes de IA como ameaças internas

A Microsoft instou as organizações a tratarem os agentes de IA como ameaças internas, de acordo com um relatório da CSO Online. O alerta destaca uma crescente preocupação de segurança em torno de agentes de software que podem acessar sistemas de negócios internos, dados e fluxos de trabalho enquanto agem em nome de funcionários ou organizações.

Os agentes de IA são ferramentas alimentadas por IA projetadas para realizar tarefas como recuperar informações, gerar conteúdo, interagir com software e ajudar a automatizar fluxos de trabalho. Diferente das aplicações tradicionais com funções estritamente definidas, os agentes podem receber acesso a recursos confidenciais da empresa para concluir tarefas, tornando os controles de acesso e a supervisão considerações centrais de segurança.

Uma ameaça interna geralmente envolve riscos criados por acesso confiável, seja por meio de atividade maliciosa, erros ou credenciais comprometidas. A aplicação desse modelo aos agentes de IA enfatiza a necessidade de as organizações considerarem quais sistemas um agente pode alcançar, quais dados ele pode manipular e como suas ações são monitoradas. A questão está se tornando mais relevante à medida que as empresas implementam ferramentas de IA generativa em suas operações internas.