TB, 19/10/2024
Por Maggie Harrison
"Isso apenas encorajará outras forças militares ou adversários a fazerem o mesmo."
Amigos do Pentágono.
Personas de IA operadas pelo Pentágono podem estar chegando a um fórum da internet perto de você.
Como relatado pelo The Intercept, uma lista de desejos apresentada pelo Comando de Operações Especiais Conjuntas (JSOC) — um grupo furtivo de contraterrorismo dentro do Departamento de Defesa dos EUA (DoD) — revela o interesse da agência em usar IA generativa para criar usuários falsos na internet.
Isso apesar dos avisos persistentes do governo dos EUA de que deepfakes, e outros conteúdos gerados por IA aprofundarão a crise de desinformação, e levarão a um ecossistema de informação mais confuso para todos.
No documento, o JSOC explica que está buscando "tecnologias que possam gerar personas online convincentes para uso em plataformas de redes sociais, sites de redes sociais e outros conteúdos online" para uso pelas Forças de Operações Especiais. Essa "solução", acrescenta o JSOC, "deve incluir imagens faciais e de fundo, vídeos faciais e de fundo, e camadas de áudio."
De acordo com a lista de desejos, o JSOC quer que os agentes de SOF "usem essa capacidade para coletar informações de fóruns públicos online."
Em outras palavras, o JSOC deseja fornecer às suas equipes de operações especiais a tecnologia para criar deepfakes de IA sofisticados e personalizados, capazes de convencer os usuários das redes sociais de que são reais, para fins de coleta de informações.
Influenza da IA
Por um lado, não é como se o pessoal de inteligência já não estivesse espiando em fóruns online e canais de redes sociais. O Pentágono também não é estranho a campanhas de influência externa na internet.
Mas o foco contínuo do DoD na IA como uma forma de aprimorar sua vigilância digital, e esforços de influência, é um desenvolvimento notável em sua abordagem às operações de inteligência online.
Como o The Intercept relatou no ano passado, o Pentágono expressou interesse em deepfakes como um meio de melhorar e expandir os esforços de influência realizados pelo Comando de Operações Especiais do DoD (SOCOM), escrevendo em uma aquisição de 2023 que buscava tecnologias "mais abrangentes, disruptivas", "maiores em escopo" do que as ferramentas atuais.
E com o dia da eleição se aproximando rapidamente, vale ressaltar que o Projeto 2025 — um plano para uma presidência projetada de Donald Trump elaborado por dezenas de aliados próximos — salivava com a perspectiva de usar IA para expandir os esforços de vigilância e espionagem, como uma análise aprofundada do Futurism mostrou.
Mas enquanto o Pentágono corre para usar a IA para supercarregar suas atividades digitais nebulosas, especialistas estão alertando que a adoção da tecnologia pelo setor de defesa americano dará sinal verde para práticas enganosas semelhantes em países ao redor do mundo.
"Isso apenas encorajará outras forças militares ou adversários a fazerem o mesmo," disse Heidy Khlaaf, cientista-chefe de IA do AI Now Institute, ao The Intercept, "levando a uma sociedade onde é cada vez mais difícil discernir verdade de ficção e confundindo a esfera geopolítica."
Artigos recomendados: DARPA e DPF
Fonte:https://futurism.com/the-byte/pentagon-wants-fake-ai-people
Nenhum comentário:
Postar um comentário