Pesquisadores da Abnormal Security descobriram um novo chatbot malicioso, chamado GhostGPT, anunciado em fóruns de cibercrime. Projetado para gerar malware, criar golpes de comprometimento de e-mails empresariais (BEC) e outras atividades ilegais, o chatbot utiliza inteligência artificial para facilitar ataques cibernéticos.

O Que É o GhostGPT?

GhostGPT é um chatbot acessível via Telegram, dispensando a necessidade de baixar softwares suspeitos. Ele promete privacidade, alegando que as atividades dos usuários não são registradas, e destaca velocidades rápidas de processamento – um atrativo para ataques que exigem agilidade, como campanhas de ransomware.

O GhostGPT foi descrito pelos pesquisadores como uma ferramenta voltada para codificação, criação de malwares e desenvolvimento de exploits. Além disso, ele pode criar e-mails altamente convincentes para golpes de BEC, tornando-o uma ferramenta eficiente para atividades cibercriminosas.

Apesar de alegar em sua propaganda que pode ser usado para "cibersegurança", essa afirmação parece ser uma tentativa superficial de evitar responsabilidades legais.

Como Funciona?

O GhostGPT funciona como um “wrapper” que conecta os usuários a uma versão modificada e "desbloqueada" do ChatGPT ou de outro modelo de linguagem. Nessas versões, os mecanismos de segurança do modelo são ignorados, permitindo a criação de conteúdos proibidos.

Os cibercriminosos que utilizam o GhostGPT não precisam configurar modelos de código aberto nem criar prompts complexos para burlar os sistemas de segurança. Basta pagar uma taxa – por meio de canais como o Telegram – e começar a usar.

Testes Revelam Potencial Perigoso

Para testar as capacidades do GhostGPT, os pesquisadores pediram que ele criasse um e-mail de phishing com o tema DocuSign. O resultado foi um modelo altamente convincente, com espaço até para um "número de suporte falso".

Embora estudos mostrem que e-mails de phishing escritos por humanos ainda têm taxas de cliques 3% maiores que os gerados por IA, a automação oferecida por ferramentas como o GhostGPT permite que esses conteúdos sejam produzidos e distribuídos de forma muito mais rápida e acessível.

Além disso, a IA pode ser usada para mais do que apenas ataques de phishing. Por exemplo, já foi demonstrado que o modelo GPT-4 pode explorar autonomamente 87% das vulnerabilidades “one-day” quando equipado com as ferramentas certas.

Crescimento dos GPTs Maliciosos

Chatbots modificados para uso malicioso vêm ganhando espaço nos últimos dois anos. Modelos como WormGPT, FraudGPT e DarkBard são apenas alguns exemplos. Muitos deles são vendidos por taxas mensais que variam de centenas a milhares de dólares, tornando-se um negócio lucrativo para seus criadores.

Estatísticas recentes mostram que ataques de comprometimento de e-mails empresariais aumentaram 20% no segundo trimestre de 2024 em comparação com o mesmo período de 2023, com dois quintos desses ataques sendo gerados por IA.

O impacto das IAs na cibersegurança também foi tema de discussão no Fórum Econômico Mundial de 2024. Especialistas destacaram que a próxima evolução dessa ameaça pode ser o uso de “enxames” de agentes de IA totalmente automatizados, capazes de executar tarefas ainda mais complexas.

Fonte

Como Proteger sua Empresa?

O surgimento de ferramentas como o GhostGPT reforça a importância de investir em soluções robustas de segurança cibernética. Empresas precisam estar preparadas para identificar e bloquear ataques cibernéticos, especialmente aqueles que utilizam inteligência artificial para ganhar escala e sofisticação.

Na Brasiline Tecnologia, contamos com parcerias estratégicas, como a Fortinet, para fornecer soluções avançadas de proteção, incluindo monitoramento contínuo e respostas rápidas a incidentes. Converse com nossos especialistas e saiba como proteger sua organização contra as ameaças cibernéticas mais avançadas.

Por Cláudio Fardin, Head of DFIR Team na Brasiline Tecnologia

Fique Por Dentro das Principais Ameaças Cibernéticas

Acompanhe os boletins de cibersegurança da Brasiline Tecnologia para se manter informado sobre os mais recentes ataques, tendências e estratégias de proteção digital. Com nossas análises especializadas, você estará sempre à frente das ameaças que podem comprometer a segurança da sua empresa.

Proteja seu futuro digital com conhecimento!