A IA não é mágica, e está sendo usada para espionar você, alertam especialistas.

TB, 23/06/2023 

Por Frank Landymore 

Frente Falsa

Em uma cúpula de tecnologia da Bloomberg nesta sexta-feira, vários especialistas do setor se manifestaram contra a fachada enganosa da IA, alertando o público de que não é a "mágica" que parece ser. Essa aparência inócua e mágica, eles argumentam, deixa o público alheio ao quão intrusiva e exploradora a tecnologia pode ser.

Para começar, Alex Hanna, diretor de pesquisa do Distributed AI Research Institute, chamou a atenção para os CEOs de empresas populares de IA generativa - incluindo Sam Altman da OpenAI e Emad Mostaque da Stability AI - por esconder o fato de que seus produtos são alimentados por grunhidos humanos.

 “Sabemos por reportagens que há um exército de trabalhadores que estão fazendo anotações nos bastidores para fazer esse material funcionar em qualquer grau”, disse Hanna, conforme citado pelo TechCrunch. 

"Eles estão realmente fazendo a rotulagem, enquanto Sam e Emad e todas essas outras pessoas que vão dizer que essas coisas são mágicas - não, existem humanos", acrescentou ela.

"Essas coisas precisam parecer autônomas e têm esse verniz, mas há muito trabalho humano por baixo disso."

Data Churner

Como presidente da fundação por trás do aplicativo de mensagens criptografadas Signal, as preocupações de Meredith Whittaker se inclinam mais para a privacidade, algo que chatbots como o ChatGPT ameaçam minar.

“Eu diria que talvez algumas pessoas neste público sejam usuários de IA, mas a maioria da população é objeto de IA”, afirmou Whittaker. "Esta não é uma questão de escolha individual."

Whittaker deu o exemplo de alguém que teve um empréstimo bancário negado após solicitar, explicando que "não fazia ideia de que havia um sistema por trás provavelmente alimentado por alguma API da Microsoft que determinava, com base em (informações das) mídias sociais extraídas, que eu não era digno de crédito."

"Eu nunca vou saber, não há nenhum mecanismo para eu saber disso", acrescentou ela.

Esses modelos de IA não apenas operam fora da vista do público, continua Whitaker, mas também servem como “tecnologia de vigilância”. Eles nos vigiam por meio de "conjuntos de dados maciços" coletados de humanos, que eventualmente se tornam "reunidos nas mãos" de empresas de IA. Esses conjuntos de dados foram extraídos de bilhões de páginas da web, praticamente coletando dados de qualquer pessoa que já tenha usado a internet, sem permissão.

"Esses dados se tornam dados sobre mim", acrescentou ela. "Não precisa ser correto. Não precisa refletir quem eu sou ou onde estou. Mas tem um poder significativo sobre minha vida, e esse poder está sendo colocado nas mãos dessas empresas".

Artigos recomendados: IA e Dados

Fonte:https://futurism.com/the-byte/ai-magic-spy-on-you-experts-warn