O ChatGPT se tornará uma ameaça à segurança cibernética? Aqui está o que observar

Quem ainda não usou o ChatGPT? É divertido, absolutamente fascinante se você tiver algum interesse em inteligência artificial e gratuito (por enquanto).

Embora geralmente seja descrito como um chatbot, o ChatGPT é muito mais do que isso. Ele pode gerar cópias, explicar tópicos complexos, atuar como tradutor, criar piadas e escrever códigos. Mas também pode ser armado por agentes de ameaças.

Como funciona o ChatGPT e por que é atraente para os cibercriminosos

O ChatGPT (Transformador pré-treinado generativo) foi desenvolvido pelo laboratório de pesquisa em inteligência artificial OpenAI e lançado em novembro de 2022. É um grande modelo de linguagem que usa uma combinação de técnicas de aprendizado de máquina supervisionadas e de reforço.

Talvez mais importante, o ChatGPT é constantemente ajustado e treinado pelos usuários, que podem votar a favor ou contra suas respostas, tornando-o ainda mais preciso e poderoso, pois coleta dados por conta própria.

Isso é o que separa o ChatGPT de outros chatbots. E se você já o usou, sabe que a diferença é perceptível imediatamente: ao contrário de outros produtos similares, ele é capaz de participar ativamente de uma conversa e concluir tarefas complexas com precisão impressionante, ao mesmo tempo em que fornece respostas coerentes e humanas.

Se você visse um pequeno ensaio escrito por um humano e outro escrito pelo ChatGPT, provavelmente teria dificuldade para determinar qual é qual. Como exemplo, aqui está uma parte do texto que o ChatGPT gerou quando solicitado a escrever um pequeno ensaio sobre O apanhador no campo de centeio.

Isso não quer dizer que o ChatGPT não tenha suas limitações – certamente tem. Quanto mais você usá-lo, mais notará que esse é o caso. Por mais poderoso que seja, ele ainda pode lutar com a lógica elementar, cometer erros, compartilhar informações falsas e enganosas, interpretar mal as instruções de maneira cômica e ser manipulado para tirar a conclusão errada.

Mas o poder do ChatGPT não está em sua capacidade de conversar. Em vez disso, reside em sua capacidade quase ilimitada de concluir tarefas em massa, com mais eficiência e rapidez do que um ser humano poderia. Com as entradas e comandos certos e algumas soluções criativas, o ChatGPT pode se transformar em uma ferramenta de automação poderosa e perturbadora.

Com isso em mente, não é difícil imaginar como um cibercriminoso poderia transformar o ChatGPT em uma arma. Trata-se de encontrar o método certo, dimensioná-lo e fazer com que a IA conclua o maior número possível de tarefas ao mesmo tempo, com várias contas e em vários dispositivos, se necessário.

5 coisas que os agentes de ameaças podem fazer com o ChatGPT

Já existem alguns exemplos reais de ChatGPT sendo usado por agentes de ameaças, mas é mais do que provável que esteja sendo armado de várias maneiras diferentes, ou estará em algum momento no futuro. Aqui estão cinco coisas que os hackers podem fazer (e provavelmente estão fazendo) com o ChatGPT.

1. Escrever malware

Se o ChatGPT pode escrever código, ele pode escrever malware. Nenhuma surpresa lá. Mas isso não é apenas uma mera possibilidade teórica. Em janeiro de 2023, a empresa de segurança cibernética Check Point Research descobriu que os cibercriminosos já estão usando o ChatGPT para escrever malware – e se gabando disso em fóruns clandestinos.

O ator de ameaças que a Check Point Research descobriu usou o chatbot avançado de forma bastante criativa para recriar o malware baseado em Python descrito em certas publicações de pesquisa. Quando os pesquisadores testaram o programa malicioso, o cibercriminoso estava dizendo a verdade: seu malware gerado pelo ChatGPT fez exatamente o que foi projetado para fazer.

2. Gerar e-mails de phishing

Por mais poderosos que os filtros de spam tenham se tornado, e-mails de phishing perigosos ainda passam despercebidos, e não há muito que uma pessoa comum possa fazer, exceto denunciar o remetente ao seu provedor. Mas há muito que um agente de ameaças capaz pode fazer com uma lista de discussão e acesso ao ChatGPT.

Com os comandos e sugestões certos, o ChatGPT pode gerar e-mails de phishing convincentes, potencialmente automatizando o processo para o agente da ameaça e permitindo que ele dimensione suas operações.

3. Crie sites fraudulentos

Se você pesquisar no Google o termo “construir um site com ChatGPT”, encontrará vários tutoriais explicando detalhadamente como fazer exatamente isso. Embora esta seja uma boa notícia para quem gostaria de criar um site do zero, também é uma ótima notícia para os cibercriminosos. O que os impede de usar o ChatGPT para criar vários sites fraudulentos ou páginas de destino de phishing?

As possibilidades são quase infinitas. Um agente de ameaça pode clonar um site existente com o ChatGPT e, em seguida, modificá-lo, criar sites falsos de comércio eletrônico, executar um site com golpes de scareware e assim por diante.

4. Crie conteúdo de spam

Para configurar um site falso, executar uma página de mídia social fraudulenta ou criar um site imitador, você precisa de conteúdo – muito disso. E precisa parecer o mais legítimo possível para que o golpe funcione. Por que um ator de ameaça contrataria redatores de conteúdo ou escreveria postagens de blog por conta própria, quando eles podem apenas deixar o ChatGPT fazer isso por eles?

É verdade que um site com conteúdo gerado por IA provavelmente seria penalizado pelo Google rapidamente e não apareceria nos resultados da pesquisa, mas há muitas maneiras diferentes pelas quais um hacker pode promover um site, enviar tráfego para ele e enganar as pessoas. seu dinheiro ou roubar suas informações pessoais.

5. Espalhe desinformação e notícias falsas

A desinformação online tornou-se um grande problema nos últimos anos. Notícias falsas se espalham como fogo na mídia social, e as pessoas que não conhecem nada melhor frequentemente se apaixonam por histórias enganosas – e às vezes literalmente inventadas. Isso pode ter consequências terríveis na vida real, e parece que ninguém tem ideia de como impedir a disseminação de notícias falsas sem violar as leis de liberdade de expressão.

Ferramentas como o ChatGPT podem agravar esse problema. Atores de ameaças com acesso a software capaz de gerar milhares de notícias falsas e postagens de mídia social todos os dias parece uma receita para o desastre.

Não tome nossa palavra para isso

Se você não está convencido, perguntamos ao ChatGPT como um cibercriminoso o usaria. Parece concordar com o cerne deste artigo.

Nas mãos erradas, o ChatGPT se torna perigoso

Só podemos imaginar o que a inteligência artificial será capaz de fazer daqui a cinco ou 10 anos. Por enquanto, é melhor ignorar o hype e o pânico e avaliar o ChatGPT racionalmente.

Como toda tecnologia, o ChatGPT não é inerentemente útil nem prejudicial. Apesar de algumas deficiências, é de longe o chatbot mais capaz já lançado ao público.