De acordo com especialistas em IA e Cibersegurança, recentemente foi observado um notável aumento na disponibilidade de Linguagens Generativas maliciosas, prontas para serem utilizadas por hackers na Dark Web.
Essas ferramentas de IA estão se tornando cada vez mais prevalentes entre os cibercriminosos, oferecendo suporte a atividades como campanhas de phishing e propagação de novos malwares no ciberespaço.
Um dos principais riscos dessa evolução, é a capacidade de realizar ataques direcionados e em grande escala contra uma variedade de alvos. Ferramentas como WormGPT e FraudGPT possibilitam a exploração de informações específicas das empresas-alvo, permitindo a criação de esquemas de engenharia social mais sofisticados e convincentes.
Segundo especialistas, ao contrário das linguagens públicas como o ChatGPT, que têm salvaguardas para evitar usos indevidos, os "darkGPTs" não possuem tais restrições, podendo ser empregados na criação de modelos de e-mails phishing, desenvolvimento de códigos maliciosos e execução de ataques dessa natureza.
Além disso, essas ferramentas podem ser utilizadas para mapear os ambientes das organizações visadas pelos cibercriminosos, em busca de vulnerabilidades zero-day que possam ser exploradas. Isso simplifica o processo para grupos de ransomware, permitindo que se concentrem mais nas campanhas de ataque.
Essas descobertas ressaltam a necessidade de repensar a abordagem em relação à tecnologia generativa, especialmente no âmbito da segurança. A integração dessas soluções tornou-se crucial para as operações das organizações, tornando-as também alvos para cibercriminosos que se valem da IA.
Portanto, a nova fronteira para os Chief Information Security Officers (CISOs) será acompanhar o ritmo das operações de negócios e das atividades cibercriminosas que utilizam IA generativa na segurança cibernética. Isso incentivará práticas mais seguras no uso da IA nas empresas e preparará os líderes de segurança para proteger e empregar essas ferramentas de maneira eficaz.
A Segurança da Informação deve concentrar-se em três áreas principais: garantir a aplicação segura da IA generativa nas operações de negócios, proteger os dados sensíveis, anter a segurança das LLMs privadas contra invasões direcionadas e implementar defesas alimentadas por IA para combater as ameaças cibernéticas.
Em conclusão, os CISOs devem priorizar a implementação de medidas de proteção e melhores práticas baseadas em inteligência artificial para enfrentar as ameaças que também se baseiam em IA.
Com uma abordagem cautelosa, é possível prever um futuro promissor, onde a tecnologia é aplicada de forma segura no cotidiano de trabalho.
Nosso objetivo é garantir um alto nível de serviço e qualidade nos projetos, para que a sua TI seja usada de forma estratégica, a favor dos seus negócios e das pessoas envolvidas. Assim, sua empresa pode focar no que realmente interessa: no seu core business. Conte com nossos Experts e garanta para sua operação um suporte técnico ágil e eficiente.
IAM da ManageEngine: Automação e Segurança na Gestão de Identidades Corporativas
Riscos Internos em Alta: O Impacto Oculto das Ações Cotidianas e Como as Empresas Podem se Proteger
