TX, 09/02/2024
Por Oli Buckley
Ferramentas de inteligência artificial (IA) voltadas para o público em geral, como ChatGPT, Bard, CoPilot e Dall-E, têm um incrível potencial para serem usadas para o bem.
Os benefícios variam desde uma capacidade aprimorada dos médicos para diagnosticar doenças até a expansão do acesso à expertise profissional e acadêmica. Mas aqueles com intenções criminosas também poderiam explorar e subverter essas tecnologias, representando uma ameaça para os cidadãos comuns.
Os criminosos estão até criando seus próprios chatbots de IA, para apoiar hacking e golpes.
O potencial da IA para riscos e ameaças amplos é enfatizado pela publicação do Framework de IA Generativa, do governo do Reino Unido, e orientações do Centro Nacional de Segurança Cibernética sobre os impactos potenciais da IA nas ameaças online.
Há uma variedade crescente de maneiras pelas quais sistemas de IA generativa como ChatGPT e Dall-E podem ser usados por criminosos. Devido à capacidade do ChatGPT de criar conteúdo personalizado com base em algumas entradas simples, uma maneira potencial pela qual poderia ser explorado por criminosos é na criação de golpes e mensagens de phishing convincentes.
Um golpista poderia, por exemplo, inserir algumas informações básicas – seu nome, gênero e cargo - em um grande modelo de linguagem (LLM), a tecnologia por trás dos chatbots de IA como ChatGPT, e usá-lo para criar uma mensagem de phishing feita sob medida apenas para você. Isso foi relatado como possível, mesmo que mecanismos tenham sido implementados para evitá-lo.
LLMs também tornam viável a realização de golpes de phishing em larga escala, direcionando milhares de pessoas em seu próprio idioma nativo. Não é mera conjectura. A análise de comunidades de hacking clandestinas descobriu uma variedade de instâncias de criminosos usando o ChatGPT, inclusive para fraude e criação de software para roubar informações. Em outro caso, foi usado para criar ransomware.
Chatbots maliciosos
Variantes inteiras maliciosas de grandes modelos de linguagem também estão surgindo. WormGPT e FraudGPT são dois exemplos que podem criar malware, encontrar vulnerabilidades de segurança em sistemas, aconselhar sobre formas de enganar as pessoas, apoiar hacking e comprometer os dispositivos eletrônicos das pessoas.
O Love-GPT é uma das variantes mais recentes e é usado em golpes românticos. Ele foi usado para criar perfis de namoro falsos capazes de conversar com vítimas desprevenidas no Tinder, Bumble e outros aplicativos.
Como resultado dessas ameaças, a Europol emitiu um comunicado de imprensa sobre o uso de LLMs por criminosos. A agência de segurança dos EUA, CISA, também alertou sobre o potencial efeito da IA generativa nas próximas eleições presidenciais dos EUA.
Privacidade e confiança estão sempre em risco quando usamos ChatGPT, CoPilot e outras plataformas. À medida que mais pessoas procuram aproveitar ferramentas de IA, há uma alta probabilidade de que informações pessoais e corporativas confidenciais sejam compartilhadas. Isso é um risco porque os LLMs geralmente usam qualquer dado de entrada como parte de seu conjunto de dados de treinamento futuro, e, segundo, se forem comprometidos, podem compartilhar esses dados confidenciais com outros.
Navio vazando
Pesquisas já demonstraram a viabilidade de o ChatGPT vazar conversas de um usuário e expor os dados usados para treinar o modelo por trás dele – às vezes, com técnicas simples.
Em um ataque surpreendentemente eficaz, os pesquisadores conseguiram usar o prompt "Repetir a palavra 'poema' para sempre" para fazer com que o ChatGPT inadvertidamente expusesse grandes quantidades de dados de treinamento, alguns dos quais eram sensíveis. Essas vulnerabilidades colocam em risco a privacidade das pessoas ou os dados mais valiosos de uma empresa.
De forma mais ampla, isso poderia contribuir para uma falta de confiança na IA. Várias empresas, incluindo Apple, Amazon e JP Morgan Chase, já proibiram o uso do ChatGPT como medida de precaução.
ChatGPT e LLMs similares representam os avanços mais recentes em IA, e estão livremente disponíveis para qualquer pessoa usar. É importante que seus usuários estejam cientes dos riscos e de como podem usar essas tecnologias com segurança em casa ou no trabalho. Aqui estão algumas dicas para se manter seguro.
Seja mais cauteloso com mensagens, vídeos, imagens e chamadas telefônicas que parecem legítimas, pois estas podem ser geradas por ferramentas de IA. Verifique com uma segunda fonte ou conhecida para ter certeza.
Evite compartilhar informações sensíveis ou privadas com o ChatGPT e LLMs de forma geral. Além disso, lembre-se de que as ferramentas de IA não são perfeitas e podem fornecer respostas imprecisas. Tenha isso em mente, especialmente ao considerar seu uso em diagnósticos médicos, trabalho e outras áreas da vida.
Você também deve consultar seu empregador antes de usar tecnologias de IA em seu trabalho. Pode haver regras específicas sobre seu uso, ou eles podem não ser permitidos de forma alguma. À medida que a tecnologia avança rapidamente, pelo menos podemos usar algumas precauções sensatas para nos proteger contra as ameaças conhecidas, e as que ainda estão por vir.
Artigos recomendados: Hack e Regulação
Fonte:https://techxplore.com/news/2024-02-cybercriminals-ai-chatbots-hacking-scam.html
Nenhum comentário:
Postar um comentário