Um recente relatório da Microsoft, intitulado Cyber Pulse, destaca a crescente adoção de agentes de inteligência artificial (IA) nas empresas da Fortune 500, revelando que mais de 80% dessas organizações utilizam essas ferramentas ativamente. O documento tem como objetivo fornecer insights sobre os riscos emergentes em cibersegurança, com ênfase na importância da governança e da supervisão dos agentes de IA.
Desafios da Governança de IA
À medida que a presença de agentes de IA se intensifica, a necessidade de uma governança eficaz se torna evidente. Os agentes, que operam de forma autônoma ou assistida, devem ser protegidos com práticas de observabilidade e segurança que respeitem os princípios do modelo Zero Trust. O relatório sugere que as empresas que se adaptarem rapidamente e integrarem as áreas de negócios, tecnologia da informação (TI), segurança e desenvolvimento estarão melhor posicionadas para enfrentar os novos desafios associados à transformação digital.
A Evolução dos Agentes de IA nas Organizações
A criação e utilização de agentes de IA não se restringem mais a funções técnicas. Atualmente, colaboradores de diversas áreas estão capacitados para desenvolver e empregar esses agentes em suas atividades cotidianas, utilizando ferramentas de desenvolvimento low-code/no-code. Essa democratização da tecnologia facilita a integração da IA em operações de vendas, finanças, segurança e atendimento ao cliente, ampliando o seu impacto nas estratégias empresariais.
Implementação de Controles Fundamentais
Com o aumento do uso de agentes de IA, é crucial estabelecer controles de segurança robustos. As empresas devem aplicar os mesmos padrões que utilizam para seus colaboradores humanos aos agentes, garantindo um acesso restrito e verificações rigorosas que considerem identidade, integridade e nível de risco. Essa abordagem proativa ajuda a mitigar os riscos associados ao uso de tecnologia autônoma, que pode operar em uma escala e velocidade muito superiores às capacidades humanas.
Setores em Ascensão e o Potencial dos Agentes de IA
Os agentes de IA estão se tornando essenciais em setores diversos, como software e tecnologia, manufatura, instituições financeiras e varejo. De acordo com o relatório Cyber Pulse, essas indústrias utilizam agentes para executar tarefas complexas, desde a elaboração de propostas até a geração de insights em tempo real. Este cenário evidencia a transição para um ambiente onde a IA não apenas complementa, mas também se torna parte integrante dos processos de negócios.
Os Riscos do Shadow AI
Apesar do avanço na adoção de agentes de IA, muitas empresas ainda enfrentam dificuldades em responder a perguntas fundamentais, como a quantidade de agentes ativos, suas responsabilidades e os dados que acessam. O conceito de Shadow AI, que se refere ao uso não regulamentado de agentes de IA, representa um novo nível de risco. Agentes não supervisionados podem herdar permissões inadequadas e acessar informações sensíveis, criando vulnerabilidades que podem ser exploradas por agentes maliciosos.
Conclusão: Um Futuro com Agentes de IA Seguros
Com a crescente adoção de agentes de IA, a necessidade de uma governança robusta e de práticas de segurança eficazes não pode ser subestimada. As organizações que incorporarem controles de segurança desde o início da implementação destes agentes estarão melhor preparadas para enfrentar os desafios futuros. Portanto, investir em observabilidade, governança e segurança é fundamental para garantir que a transformação digital impulsionada pela IA ocorra de maneira segura e responsável.
Fonte: https://news.microsoft.com
Leonardo Menezes é especialista em tecnologia e fundador da Bowl Idea. Com sólida experiência em engenharia civil e domínio das ferramentas da Microsoft Power Platform e Microsoft 365, desenvolve soluções digitais que automatizam processos, integram dados e aumentam a produtividade. Sua atuação une inovação, estratégia e visão prática para transformar desafios em sistemas inteligentes e acessíveis.
Serviços de Power Platform ou Microsoft 365
Impulsione sua produtividade com Microsoft 365, automatize processos com Power Platform e gerencie projetos com excelência usando PM Canvas.
