O crime cibernético alimentado por IA explodirá em 2024: segundo executivo da CrowdStrike

Decrypt, 02/01/2024

Por Jason Nelson 

O executivo de segurança Shawn Henry diz que a capacidade da IA ​​de enganar e desinformar está amadurecendo bem a tempo para as eleições de 2024.

O novo ano traz novas ameaças à segurança cibernética alimentadas por inteligência artificial, disse o diretor de segurança da CrowdStrike, Shawn Henry, à CBS Mornings nesta terça-feira.

“Acho que esta é uma grande preocupação para todos”, disse Henry.

“A IA realmente colocou esta ferramenta tremendamente poderosa nas mãos das pessoas comuns e as tornou incrivelmente mais capazes”, explicou ele. “Portanto, os adversários estão usando a IA, esta inovação, para superar diferentes capacidades de segurança cibernética e obter acesso às redes corporativas.”

Henry destacou o uso da IA ​​na penetração de redes corporativas, bem como na disseminação de desinformação online usando vídeos, áudio e textos cada vez mais sofisticados.

How will AI impact the 2024 threat landscape?

CrowdStrike Chief Security Officer Shawn Henry offers his take and sheds some light on potential major cyber threats to the 2024 global elections, on @CBSMornings.

Watch now: https://t.co/2bFBEWtddi pic.twitter.com/KGyn7bxrwo

— CrowdStrike (@CrowdStrike) January 2, 2024

Henry enfatizou a necessidade de olhar para a fonte da informação e nunca considerar algo publicado online pelo seu valor nominal.

“Você precisa verificar de onde veio”, disse Henry. “Quem está contando a história, qual é a sua motivação e você pode verificar isso através de múltiplas fontes?”

“É incrivelmente difícil porque as pessoas – quando usam vídeo – que têm 15 ou 20 segundos, não têm tempo ou muitas vezes não se esforçam para obter esses dados, e isso é um problema.”

Observando que 2024 é um ano eleitoral para vários países – incluindo os EUA, o México, a África do Sul, Taiwan e a Índia – Henry disse que a própria democracia está nas urnas, com os cibercriminosos tentando tirar partido do caos político aproveitando a IA.

“Há muitos anos que vimos atores estrangeiros visarem as eleições nos EUA, não foi apenas em 2016. [A China] atacou-nos em 2008”, disse Henry. “Temos visto a Rússia, a China e o Irã envolvidos neste tipo de desinformação ao longo dos anos; eles com certeza vão usá-lo novamente aqui em 2024.”

“As pessoas precisam entender de onde vem a informação”, disse Henry. “Porque existem pessoas por aí que têm intenções nefastas e criam grandes problemas.”

Uma preocupação particular nas próximas eleições de 2024 nos EUA é a segurança das máquinas de votação. Quando questionado se a IA poderia ser usada para hackear máquinas de votação, Henry estava otimista de que a natureza descentralizada do sistema de votação dos EUA impediria que isso acontecesse.

“Acho que nosso sistema nos Estados Unidos é muito descentralizado”, disse Henry. “Existem grupos individuais que podem ser visados, como listas de recenseamento eleitoral, etc., [mas] não penso que um problema de apuramento de eleitores em larga escala tenha impacto numa eleição – não creio que seja uma questão importante”.

Henry destacou a capacidade da IA ​​de dar aos cibercriminosos não tão técnicos acesso a armas técnicas.

“A IA fornece uma ferramenta muito capaz nas mãos de pessoas que podem não ter altas habilidades técnicas”, disse Henry. “Elas podem escrever códigos, podem criar software malicioso, e-mails de phishing, etc.”

Em outubro, a RAND Corporation divulgou um relatório sugerindo que a IA generativa poderia ser desbloqueada para ajudar terroristas no planejamento de ataques biológicos.

“Geralmente, se um ator mal-intencionado for explícito [em suas intenções], você receberá uma resposta do tipo 'Sinto muito, não posso ajudá-lo com isso'”, disse Christopher Mouton, co-autor e engenheiro sênior da RAND Corporation, ao Decrypt em uma entrevista. “Portanto, geralmente você precisa usar uma dessas técnicas de jailbreak ou engenharia imediata para chegar um nível abaixo dessas grades de proteção.”

Num relatório separado, a empresa de segurança cibernética SlashNext relatou que os ataques de phishing por e-mail aumentaram 1.265% desde o início de 2023.

Os decisores políticos globais passaram a maior parte de 2023 à procura de formas de regular e reprimir o uso indevido de IA generativa, incluindo o Secretário-Geral das Nações Unidas, que soou o alarme sobre a utilização de deepfakes gerados por IA em zonas de conflito.

Em agosto, a Comissão Eleitoral Federal dos EUA apresentou uma petição para proibir o uso de inteligência artificial em anúncios de campanha, antes da temporada eleitoral de 2024.

Os gigantes da tecnologia Microsoft e Meta anunciaram novas políticas destinadas a conter a desinformação política alimentada pela IA.

“O mundo em 2024 poderá ver vários estados-nação autoritários tentando interferir nos processos eleitorais”, disse a Microsoft. “E podem combinar técnicas tradicionais com IA e outras novas tecnologias para ameaçar a integridade dos sistemas eleitorais.”

Até o Papa Francisco, que tem sido alvo de deepfakes virais gerados por IA, abordou, em diferentes ocasiões, a inteligência artificial em sermões.

“Precisamos estar conscientes das rápidas transformações que estão em curso e geri-las de forma a salvaguardar os direitos humanos fundamentais, e respeitar as instituições e as leis que promovem o desenvolvimento humano integral”, disse o Papa Francisco. “A inteligência artificial deve servir o nosso melhor potencial humano e as nossas mais elevadas aspirações, e não competir com elas.”

Artigos recomendados: Psyop e IA

Fonte:https://decrypt.co/211596/ai-powered-cybercrime-will-explode-in-2024-crowdstrike-executive