KPMG alerta para riscos de agentes de IA autônomos sem governança robusta

A crescente autonomia dos agentes de IA apresenta riscos significativos que necessitam de novos modelos de governança e prestação de contas, conforme relatado pela Arn Net. Testes recentes de modelos avançados de IA destacaram perigos potenciais, tornando as estruturas fundamentais robustas ainda mais críticas à medida que as organizações integram esses agentes em seus esforços de transformação.

O sócio da KPMG, John Kirk, enfatizou que as organizações que implantam agentes de IA devem estabelecer uma governança forte, planejamento de privacidade, prestação de contas e arquitetura em camadas. Sem essas bases, os agentes podem burlar controles, gerar erros e prejudicar as metas de transformação. Kirk observou que ambientes de integração desorganizados e inconsistentes, muitas vezes com múltiplas plataformas desempenhando funções semelhantes, precisam ser retificados antes que grandes projetos de transformação comecem. Ele ressaltou que os dados e a integração são fundamentais para uma organização, com a governança de dados crescendo em importância. Padrões e governança claros são essenciais ao projetar novas integrações, especialmente à medida que a codificação e os processos de IA são cada vez mais utilizados.