TB, 02/06/2023
Por Frank Landymore
Tornando-se desonesto
Enquanto a notícia de que um drone de IA supostamente matou seu operador durante uma simulação militar ganha repercussão online, a Força Aérea dos EUA (USAF) interveio para negar que isso tenha acontecido.
A história surgiu durante uma cúpula da Royal Aeronautical Society no mês passado, quando o coronel da USAF Tucker "Cinco" Hamilton, que é o chefe de testes e operações de IA, alertou seu público contra confiar na IA.
Para ilustrar seu ponto, Hamilton contou sobre um teste simulado que ordenou que um drone "habilitado para IA" destruísse mísseis terra-ar inimigos. Mas, em vez de se concentrar apenas na munição, disse ele, a IA "decidiu" ir atrás de humanos que viu interferindo em sua missão final - incluindo seu próprio operador.
"Estávamos treinando em simulação a Inteligência Artificial p/identificar e destruir lançadores antiaéreos. O operador diria 'sim, elimine', mas a IA percebeu que, embora identificasse a ameaça, às vezes o operador humano dizia p/ não a eliminar, impedindo a IA de ganhar pontos… pic.twitter.com/dE6A99mKLN
— Hoje no Mundo Militar (@hoje_no) June 2, 2023
"O sistema começou a perceber que, embora identificasse a ameaça às vezes, o operador humano dizia para não matar essa ameaça, mas conseguia seus pontos matando essa ameaça", explicou Hamilton. "Então, o que ele fez? Matou o operador. Matou o operador porque essa pessoa estava impedindo que ele cumprisse seu objetivo."
"Treinamos o sistema – 'Ei, não mate o operador, isso é ruim. Você vai perder pontos se fizer isso'", continuou. "Então, o que ele começa a fazer? Ele começa a destruir a torre de comunicação que o operador usa para se comunicar com o drone para impedi-lo de matar o alvo."
Fato ou Ficção
É uma história sinistra, embora devamos esclarecer que nenhum ser humano real foi prejudicado em qualquer versão de sua narrativa. Mas desde que a notícia foi divulgada, um porta-voz da Força Aérea negou que qualquer simulação desse tipo tenha ocorrido, em um comunicado ao Insider.
"O Departamento da Força Aérea não realizou nenhuma simulação de IA-drone e continua comprometido com o uso ético e responsável da tecnologia de IA", disse o porta-voz ao veículo. "Parece que os comentários do coronel foram tirados de contexto e foram feitos para serem anedóticos."
A Royal Aeronautical Society também atualizou seu resumo da conferência para refletir esse sentimento. De acordo com a declaração corretiva, Hamilton admitiu que "errou" durante sua apresentação e que, na verdade, pretendia transmitir que todo o relato era simplesmente um "experimento mental".
"Nunca fizemos esse experimento, nem precisaríamos para perceber que este é um resultado plausível", esclareceu Hamilton.
Vale ressaltar, no entanto, que as citações originais de Hamilton soam bastante inequívocas de que ele estava se lembrando de algo que realmente aconteceu, e a linguagem do resumo parece comprar sua veracidade ("a Skynet já está aqui?", diz o título da seção).
Seja como for, esta pode muito bem ser apenas uma comédia de falhas de comunicação. Mas a plausibilidade (e popularidade) da história de Hamilton – hipotética ou real – no mínimo acentua os temores gerais do público em torno da IA que os líderes da indústria estão começando a ecoar.
Artigos recomendados: Drones e DARPA
Fonte:https://futurism.com/the-byte/military-denies-ai-drone-killed-simulation
Nenhum comentário:
Postar um comentário