WormGPT: nova ferramenta de IA permite que cibercriminosos realizem ataques sofisticados

A inteligência artificial generativa (IA) está se tornando cada vez mais popular, mas também está sendo explorada por indivíduos mal-intencionados, levando a um aumento alarmante no cibercrime. Uma nova ferramenta chamada WormGPT tem ganhado destaque em fóruns clandestinos como uma maneira sofisticada de realizar ataques de phishing e comprometimento de e-mails comerciais (BEC). Segundo o pesquisador de segurança Daniel Kelley, essa tecnologia permite que cibercriminosos automatizem a criação de e-mails falsos altamente convincentes, personalizados de acordo com o destinatário. Neste caso, as chances de sucesso aumentam. 

O WormGPT, operando sem qualquer consideração ética, destaca a séria ameaça que a IA generativa representa, permitindo que até mesmo indivíduos inexperientes realizem ataques em larga escala de forma rápida. Nas mãos de agentes mal-intencionados, essas ferramentas se tornam armas poderosas, especialmente porque o OpenAI ChatGPT e o Google Bard estão trabalhando para combater o uso indevido de modelos de linguagem (LLMs) na criação de e-mails de phishing convincentes e geração de código malicioso.

De acordo com um relatório da Check Point, os mecanismos de segurança anti-abuso do Bard são consideravelmente mais baixos do que os do ChatGPT, o que torna mais fácil a geração de conteúdo malicioso.

Além disso, agentes mal-intencionados estão promovendo “jailbreaks” para o ChatGPT, criando diretrizes e inputs especializados para manipular a ferramenta, resultando em divulgação de informações confidenciais, criação de conteúdo inadequado e execução de código malicioso. Fato que agrava ainda mais a situação.

Este texto tem informações do The Hacker News.

Para mais informações sobre cibersegurança, acompanhe nosso LINKEDIN.