Por Ewerton Araújo | Time de Segurança da Informação da CG One
A IA generativa já participa de processos corporativos reais. Ela resume documentos, apoia atendimentos, consulta bases internas e, por meio de agentes, pode executar ações em outros sistemas.
Cada integração amplia o que a tecnologia consegue fazer. Também amplia o que precisa ser protegido.
Ao avaliar o uso de IA generativa nas empresas, há cinco pontos de exposição que merecem atenção especial.
1. Prompt injection: quando o conteúdo tenta virar comando
Um assistente recebe um documento para resumir. Dentro dele, há uma instrução para ignorar a solicitação do usuário e enviar informações a um endereço externo.
O documento deveria ser tratado como dado, não como fonte de comandos. O risco de prompt injection surge quando uma instrução inserida em conteúdo não confiável influencia o comportamento do modelo ou de um agente conectado a ele.
Esse conteúdo pode chegar por e-mail, página web, arquivo ou resultado de busca. Se o sistema tiver acesso a ferramentas e dados internos, o impacto potencial deixa de se limitar à resposta gerada.
A pergunta de segurança é: o que acontece quando uma fonte externa tenta orientar as ações do assistente?
2. Dados sensíveis enviados em prompts
Para ganhar tempo, um colaborador pode inserir um contrato, um trecho de código ou uma planilha de clientes em uma ferramenta de IA. A tarefa parece simples. O fluxo do dado nem sempre é.
É preciso saber qual serviço recebe as informações, quais condições de retenção se aplicam e quem pode acessar os registros. As respostas variam conforme a ferramenta, o contrato e a configuração utilizada.
Prompts, arquivos anexados e respostas geradas precisam fazer parte da política de proteção de dados da empresa. Sem essa visibilidade, informações sensíveis podem sair dos ambientes aprovados sem uma avaliação adequada do risco.
3. Agentes com permissões maiores do que precisam
Um agente de IA pode consultar o CRM, atualizar registros, enviar mensagens ou acionar APIs. Para fazer isso, recebe credenciais e permissões.
É aí que o princípio do menor privilégio se torna decisivo. Se um agente precisa apenas consultar um conjunto específico de registros, por que teria permissão para alterar toda a base?
Uma instrução maliciosa ou um erro no fluxo pode levar o agente a executar uma ação indevida. O impacto depende das permissões concedidas e dos controles existentes antes da execução.
Com agentes, o risco deixa de estar apenas no que a IA responde e passa a incluir aquilo que ela pode executar.
Por isso, é necessário revisar escopo de acesso, segregação de funções, registro de ações e aprovação humana para operações sensíveis.
4. Aplicações e APIs de LLM sem configuração adequada
Uma aplicação de IA pode ter autenticação e, ainda assim, expor informações por falhas na forma como gerencia contexto, integrações, logs ou permissões.
Chaves de API, controle de acesso entre usuários, histórico de conversas e isolamento das bases consultadas exigem revisão. Também é preciso avaliar o que a aplicação registra e quem consegue acessar esses registros.
Os princípios de segurança já são conhecidos. O desafio é aplicá-los à arquitetura completa da solução: modelo, aplicação, dados e ferramentas conectadas.
5. Shadow AI: o uso que acontece fora da governança
Uma aplicação de IA pode ter autenticação e, ainda assim, expor informações por falhas na forma como gerencia contexto, integrações, logs ou permissões.
Chaves de API, controle de acesso entre usuários, histórico de conversas e isolamento das bases consultadas exigem revisão. Também é preciso avaliar o que a aplicação registra e quem consegue acessar esses registros.
Os princípios de segurança já são conhecidos. O desafio é aplicá-los à arquitetura completa da solução: modelo, aplicação, dados e ferramentas conectadas.
O risco começa antes do primeiro prompt
Existe ainda uma camada importante que muitas vezes fica fora da discussão: a segurança da IA começa antes de a IA ser usada.
Antes de chegar ao usuário, uma aplicação de IA passa por código, bibliotecas, pipelines de desenvolvimento, APIs e infraestrutura em nuvem.
É nesse caminho que uma biblioteca vulnerável pode entrar no projeto, uma chave de API pode ser exposta no código ou no pipeline, um container pode ser publicado com falhas conhecidas ou uma identidade em nuvem pode receber permissões maiores do que precisa.
Ou seja: o risco pode existir antes mesmo de o primeiro usuário enviar um prompt.
Como transformar visibilidade em proteção
A segurança precisa acompanhar a IA onde ela está sendo usada. Na prática, isso significa mapear aplicações e integrações, classificar os dados compartilhados, limitar as permissões dos agentes e monitorar interações e ações relevantes.
A tecnologia pode apoiar essa estratégia. No portfólio da Fortinet, o FortiAI-Protect oferece recursos para identificar aplicações de IA em uso, avaliar riscos e aplicar políticas de acesso, inclusive em cenários de Shadow AI.
Para aplicações próprias baseadas em LLMs, o FortiAIGate acrescenta controles durante a interação com o modelo, voltados a riscos como prompt injection e vazamento de dados.
Já o FortiCNAPP amplia essa proteção para o código e a infraestrutura em nuvem, ajudando a identificar vulnerabilidades, má configuração, permissões excessivas e exposição antes que esses riscos se transformem em incidentes.
Cada recurso atende a uma parte da arquitetura e precisa ser avaliado conforme o ambiente da organização.
Como parceira Fortinet no Brasil, a CG One apoia empresas no desenho e na implementação desses controles. A experiência da companhia reúne 44 anos no mercado de tecnologia, mais de 8 mil projetos entregues em 20 anos e mais de 250 certificações técnicas válidas.
A questão para os times de segurança já não é se a IA está presente no ambiente corporativo. É onde ela está, quais dados utiliza, como foi construída e o que pode fazer em nome da empresa. Essas respostas são o ponto de partida para adotar IA com controle e confiança.
Entre em contato com a gente e descubra como a CG One pode ajudar o seu negócio.
Ewerton Araújo é especialista em cibersegurança, com atuação em arquitetura de soluções, pré-vendas e participação em projetos de implementação na CG One. Possui ampla experiência com tecnologias Fortinet e certificações em áreas como Secure Networking, SASE, Security Operations, Cloud Security e OT Security. Atua apoiando empresas no desenho, implementação e evolução de arquiteturas de segurança para ambientes on-premises, híbridos e em nuvem.