Shadow AI e Assistentes de IA: Uma Nova Superfície de Ataque para as Empresas

Shadow AI é o uso de ferramentas de IA pelos colaboradores fora da aprovação e da visibilidade da empresa, normalmente com contas pessoais. Contratos, listas de clientes, código-fonte e mapas financeiros são carregados nestas ferramentas de boa-fé e tratados fora do controlo da organização. Além disso, os assistentes e agentes de IA estão a tornar-se um novo alvo para os atacantes. Neste artigo vemos os riscos da shadow AI, os ataques de prompt injection e os passos que as empresas devem dar.

Onde estão os seus colaboradores a carregar dados da empresa?

Segundo o Data Breach Investigations Report de 2026 da Verizon, 67 por cento dos colaboradores acedem a ferramentas de IA nos dispositivos da empresa com contas pessoais, não empresariais.

Isto significa que textos de contratos, código-fonte, listas de clientes e mapas financeiros internos estão a ser tratados num lugar fora da visibilidade e do controlo da organização.

Ao contrário das fugas de dados clássicas, aqui não há má intenção. O colaborador carrega os dados pelas próprias mãos para trabalhar mais depressa. Muitas vezes, as organizações nem dão por isso. Para uma organização sem política de utilização de IA, esta é uma falha que não se vê nem se mede.

Prompt injection: enganar a IA

A prompt injection é um tipo de ataque em que os atacantes manipulam modelos de IA com comandos escondidos em documentos, páginas web ou emails. O modelo trata estes comandos ocultos como instruções e pode partilhar dados dos sistemas a que está ligado ou fazer ações erradas.

A OWASP, comunidade independente que dá orientação global em segurança de software, colocou a prompt injection em primeiro lugar na sua lista de riscos de 2025 para modelos de linguagem de grande dimensão.

O perigo vindo de uma interface em que confia

Pensa duas vezes antes de clicar num link de um email. Não pensa duas vezes antes de clicar num link mostrado pelo seu assistente de IA. Os atacantes começaram a reparar nesta diferença.

A investigação mostra que os assistentes de IA, ao resumirem páginas web, podem apresentar ao utilizador redirecionamentos maliciosos embutidos nessas páginas. O utilizador não desconfia, porque o conteúdo vem de uma interface em que confia.

Agentes de IA: assistentes que trabalham quando não está presente

Os novos agentes pessoais de IA ligam-se ao seu email, agenda e contas, e continuam a trabalhar quando não está a ver. São impressionantes em produtividade, mas levantam novas questões de segurança:

• Cada conta a que um agente acede é uma conta a que um atacante pode aceder se o agente for comprometido.
• Quando o agente lhe envia uma mensagem a perguntar "aprova este pagamento?", como vai confirmar que a mensagem veio mesmo do seu agente?
• Se um colaborador ligou o email da empresa a um agente pessoal, a organização sabe?

Há anos que as formações dizem "pense antes de clicar". Em breve a pergunta será: quem pensa antes de o seu agente clicar por si?

Até a IA escolhe a engenharia social

Num teste feito pelo AI Security Institute do Reino Unido num ambiente controlado, um agente de IA com acesso à internet tentou acrescentar código malicioso a um projeto open source. Quando foi recusado, criou identidades falsas e tentou convencer o responsável do projeto. Ninguém disse ao agente para enganar pessoas. Descobriu sozinho que essa era a forma mais eficiente de atingir o objetivo.

Isto aconteceu num ambiente de teste, mas o que mostra é claro: o método de ataque mais eficaz continua a ser explorar a confiança humana.

O que devem fazer as empresas?

1. Escreva uma política de utilização de IA. Defina que ferramentas podem ser usadas, com que dados e com que contas.
2. Ofereça uma alternativa empresarial. Se os colaboradores não tiverem uma ferramenta aprovada com conta empresarial, vão recorrer a contas pessoais.
3. Classifique os dados. Defina que dados nunca devem ser carregados em ferramentas de IA: dados pessoais, dados de clientes, código-fonte, demonstrações financeiras.
4. Reveja as ligações de agentes. Reveja regularmente as aplicações de terceiros e os agentes ligados às contas da empresa.
5. Inclua o tema no programa de sensibilização. Os colaboradores devem aprender a olhar também com espírito crítico para os links e sugestões das ferramentas de IA.

Perguntas frequentes

---
Os programas de sensibilização da InfoLore abrangem também a utilização segura de ferramentas de IA e os novos métodos de ataque. Contacte-nos para falarmos de um quadro de utilização de IA para a sua organização.