Pular para o conteúdo principal

CG One

Blog CG One

Insights valiosos para ajudar a proteger o seu negócio.

Governança de IA começa no negócio, mas precisa terminar em controle

Por Ewerton Araújo


No meu artigo anterior, (3) IA generativa nas empresas: cinco pontos de exposição que precisam entrar no radar da segurança | LinkedIn, mapeei os riscos que a IA traz para dentro das empresas. A discussão que veio depois me levou a uma conclusão: a maior parte desses riscos não nasce na tecnologia. Nasce da falta de direção.

Quando ninguém definiu para que serve cada uso de IA, quem responde por ele e quais dados ele pode tocar, não existe controle que se sustente. Por isso, governança de IA começa como decisão de negócio.

Mas ela não pode parar aí. Uma decisão que não vira processo, responsabilidade e controle técnico acaba como um PDF na intranet que pouca gente leu. Este artigo trata desse caminho: como sair da decisão e chegar em algo que funciona no dia a dia.

Por que só a política não resolve

A maioria das empresas já tem algum documento sobre uso de IA. Em geral ele diz algo como “não compartilhe informações confidenciais com ferramentas públicas”. A orientação está certa. O problema é que, sem mais nada, quem garante o cumprimento dela é a boa vontade de cada usuário.

E a IA não entra na empresa por uma porta só. Ela chega como assinatura SaaS contratada por uma área, como recurso novo dentro de uma plataforma que já existia, como extensão de navegador ou como integração via API feita por um time de desenvolvimento. Boa parte disso acontece sem passar por TI ou Segurança.

Shadow AI: o uso que ninguém aprovou

Esse é o fenômeno do Shadow AI. Ele não costuma ter má intenção: as pessoas só querem trabalhar mais rápido. Mas cada ferramenta que ninguém aprovou é um lugar para onde dados da empresa podem estar indo sem que ninguém saiba.

Quando fazemos um levantamento de aplicações pelo tráfego de rede, o resultado quase sempre surpreende. A lista de serviços de IA em uso costuma ser bem maior do que a lista de serviços aprovados. E a primeira reação, que é bloquear tudo, normalmente piora o problema: o uso migra para o celular pessoal e some de vez do radar.

Um caso comum

Uma empresa de médio porte, do setor de serviços, decidiu adotar um assistente de IA para o time comercial. A ideia era boa: resumir reuniões, montar propostas e responder clientes mais rápido. A diretoria aprovou, o fornecedor foi contratado e a ferramenta entrou em produção em poucas semanas.

Três meses depois, uma revisão de acessos encontrou o seguinte:

  • A integração com o CRM usava uma conta de serviço com permissão de leitura e escrita em toda a base, não só nos dados do time comercial.
  • O assistente tinha acesso ao repositório de documentos da empresa inteira, incluindo pastas do RH e do jurídico.
  • Não havia registro do que era consultado nem de quais dados saíam para o fornecedor.
  • Ninguém sabia dizer quem era o dono da ferramenta: o comercial, que pediu, ou a TI, que instalou.

Nenhum incidente aconteceu. Mas a empresa percebeu que tinha tomado uma boa decisão de negócio sem traduzir essa decisão em nada concreto. Esse cenário, com pequenas variações, é bem mais comum do que parece.

Da decisão ao controle: quatro camadas
  • Para uma decisão sobre IA funcionar na prática, ela precisa passar por quatro camadas. Se faltar uma delas, as outras ficam sem sustentação.

    Pessoas. Todo uso de IA precisa de um dono de negócio. É ele quem responde pelo objetivo, pelos dados envolvidos e pelo risco que a empresa aceitou correr. Além disso, os usuários precisam ser treinados: saber o que pode e o que não pode, e por quê. Um colaborador que entende o risco de colar um contrato numa ferramenta pública é um controle por si só.

    Processos. Cada novo uso de IA precisa de um caminho de entrada claro: quem solicita, quem avalia, quais critérios são usados e quando acontece a revisão periódica. Sem isso, a ferramenta entra pela porta dos fundos. Também é preciso um processo de saída, para desativar acessos e integrações quando o uso termina.

    Políticas. A política define as regras: quais ferramentas são aprovadas, quais dados podem ser usados em cada uma e o que fica proibido. Para funcionar, ela precisa ser curta, clara e ligada à classificação de dados que a empresa já usa. Uma política de 40 páginas raramente sai do papel.

    Tecnologia. É aqui que a decisão vira algo verificável. Controle de aplicações para enxergar e filtrar o uso, DLP para impedir que dados sensíveis saiam, identidade e acesso com o mínimo de permissão necessário, e logs para auditar o que foi feito.

    Na prática, a tradução fica mais ou menos assim:

    Decisão de negócio

    Pessoas e processo

    Controle técnico

    Só ferramentas aprovadas podem receber dados de clientes

    Catálogo de ferramentas aprovadas e fluxo para solicitar novas

    Controle de aplicações e DLP no tráfego para serviços de IA

    O assistente comercial só acessa dados do comercial

    Dono de negócio definido e revisão trimestral de acessos

    Conta de serviço própria, com permissão restrita às pastas e registros da área

    Todo uso de IA precisa ser auditável

    Responsabilidade de revisão atribuída a Segurança

    Logs de consultas e chamadas de API enviados ao SIEM

    Alterações feitas por agentes exigem aprovação

    Aprovador definido por tipo de operação

    Etapa de aprovação humana no fluxo, antes da execução

    Colaboradores sabem o que podem usar

    Treinamento na integração e campanhas periódicas

    Aviso na tela quando o usuário acessa uma ferramenta não aprovada

    Repare que nenhuma linha se resolve só com tecnologia, e nenhuma se resolve sem ela.

As lições da recuperação de ransomware
  1. Rede flat multiplica impacto. O incidente começa em um ponto e se espalha pela topologia.
  2. Nenhuma camada de detecção é suficiente sozinha. Projete assumindo que alguém vai entrar.
  3. Visibilidade vem antes de política. Sem mapa de fluxos, qualquer regra é palpite.
  4. Comece pelo que é crítico. Os serviços e aplicações de maior necessidade para o negócio vêm primeiro. Segmentar tudo de uma vez é inviável.
  5. Contenção e restauração andam juntas. Voltar backup em uma rede sem isolamento é arriscar repetir o problema.
  6. Recuperação é oportunidade de arquitetura. Reconstruir sem corrigir a topologia prepara o próximo incidente.
Onde o risco está crescendo: agentes

A edição 2026 do OWASP Top 10 for LLM Applications mantém Prompt Injection e vazamento de informações sensíveis no topo. A mudança que mais chama atenção é outra: Excessive Agency, o excesso de autonomia dado à IA, subiu para a terceira posição. O motivo é simples. É nos agentes que os danos reais têm aparecido.

Um assistente que só responde perguntas tem um limite natural. Um agente que consulta sistemas, altera registros e dispara fluxos não tem, a menos que alguém coloque. E esses dois riscos se somam: um agente com permissão demais, lendo um documento que contém instruções maliciosas escondidas, pode executar uma ação que ninguém pediu.

Filtros de conteúdo ajudam, mas não resolvem sozinhos. O que reduz o impacto de verdade é a velha regra do menor privilégio: cada agente com identidade própria, só com as permissões que a função exige, e aprovação humana para operações de maior impacto. Se o agente só precisa ler, ele não deve conseguir escrever.

Por onde começar

Não é preciso montar um programa completo antes de agir. Quatro passos já mudam bastante o cenário:

  1. Descubra o que já está em uso. Levante as ferramentas de IA acessadas pela rede e as integrações com sistemas internos. Sem esse inventário, qualquer política é feita no escuro.
  2. Dê um dono para cada uso. Para cada ferramenta relevante, defina o objetivo, o responsável de negócio e os dados que ela pode acessar.
  3. Revise as permissões das integrações. Contas de serviço e tokens de API usados por IA costumam ter mais acesso do que precisam. Esse é um dos ajustes de maior retorno e menor custo.
  4. Transforme a política em controle. Escolha as duas ou três regras mais importantes e garanta que cada uma tenha um controle técnico e um processo de revisão por trás.

Frameworks como o NIST AI RMF e a ISO/IEC 42001 ajudam a organizar esse trabalho depois, mas o primeiro passo não depende deles.

Governança de IA começa com uma pergunta de negócio: para que estamos usando isso, e quanto risco aceitamos correr? Mas ela só existe de fato quando dá para mostrar, com evidência, que a resposta está sendo cumprida.

E na sua empresa? A política de IA já tem algum controle por trás, ou ainda depende do bom senso de cada usuário?

Ewerton Araújo é especialista em cibersegurança, com atuação em arquitetura de soluções, pré-vendas e participação em projetos de implementação na CG One. Possui ampla experiência com tecnologias Fortinet e certificações em áreas como Secure Networking, SASE, Security Operations, Cloud Security e OT Security. Atua apoiando empresas no desenho, implementação e evolução de arquiteturas de segurança para ambientes on-premises, híbridos e em nuvem.

Leia outros artigos