SWI, 25/06/2022
Por Katharina Wecker
Algumas pessoas veem a inteligência artificial como um perigo para a democracia; outros vêem isso como uma grande oportunidade. Pesquisadores e especialistas explicam como algoritmos e big data são implantados na Suíça – e como não são.
A votação na Suíça ocorre a cada três meses. Debates ferozes acontecem antes dos referendos, e o tom pode ser particularmente agressivo online. Insultos, ódio puro e até ameaças de assassinato não são incomuns. Isso é um risco para a democracia, diz Sophie Achermann, diretora da Alliance F, o maior grupo que representa as mulheres na Suíça.
“É importante conduzir discussões difíceis, mas baseadas em fatos”, diz Achermann. “Mas o ódio na internet impede a diversidade de opiniões. As pessoas têm medo de mensagens de ódio e preferem não dizer nada.” Antes da votação da iniciativa de pesticidas e água potável em 2021, por exemplo, alguns políticos receberam tantos e-mails de ódio que não queriam aparecer em público, diz ela. Isso não é apenas um fenômeno suíço: em todo o mundo, os políticos estão enfrentando crescente hostilidade e ameaças online, especialmente mulheres e minorias.
Por causa disso, a Alliance F desenvolveu um algoritmo contra o discurso de ódio. O algoritmo é chamado de “Bot Dog”, porque – como um cachorro – fareja mensagens de ódio nas redes sociais e marca essas postagens. Um grupo de voluntários então responde a cada mensagem. A ideia é que o ódio na internet não deve ser contestado e a discussão pode continuar em uma base factual.
Bot Dog ainda está na fase piloto. Mas suas primeiras tentativas foram bem-sucedidas: pesquisadores do instituto federal de tecnologia ETH Zurich e da Universidade de Zurique seguiram o projeto piloto e descobriram que as respostas pedindo simpatia por aqueles submetidos ao discurso de ódio foram particularmente bem-sucedidas. Frases como “sua postagem é muito prejudicial para os judeus” resultaram no usuário responsável pela mensagem de ódio pedindo desculpas ou deletando a mensagem.
Em julho, o Bot Dog fará sua estreia oficial online. Quem quiser pode participar do projeto, diz Achermann. Seja avaliando comentários e ajudando o algoritmo de aprendizado de máquina a identificar com mais precisão quais comentários contêm discurso de ódio ou respondendo às postagens marcadas como discurso de ódio.
Cooperação entre algoritmos e pessoas
O Bot Dog é apenas um exemplo de como a inteligência artificial (IA) pode fortalecer a democracia. Dirk Helbing, professor de ciências sociais computacionais da ETH Zurich, vê um imenso potencial em uma democracia digital. Ele diz que está considerando um orçamento participativo, onde os cidadãos podem juntos determinar como o orçamento de sua cidade ou comunidade deve ser gasto.
No distrito de Wipkingen, em Zurique, essa ideia já está sendo testada. Usando uma plataforma digital, os moradores decidiram a favor de parques urbanos, um parque de skate e um festival de comida de rua. Cada um desses projetos é apoiado com CHF 40.000 (US$ 40.250) do dinheiro dos contribuintes.
Outra ideia para a democracia digital é que cidades e regiões ao redor do mundo possam se conectar para participar de competições por economias sustentáveis, redução de CO2 ou coexistência pacífica – uma espécie de Olimpíada da cidade. As soluções e os dados relacionados seriam de código aberto, de acesso livre a todos, e poderiam servir de base para modelos de IA. “Acho que estamos caminhando para uma espécie de sociedade digital participativa”, diz Helbing – uma cooperação entre IA e pessoas, como é o caso do Bot Dog, onde um algoritmo e voluntários unem forças para combater o ódio online.
A IA tem um enorme potencial para a democracia direta, diz ele. Mas os aplicativos movidos puramente por dados “também têm um enorme potencial destrutivo para sociedades democráticas baseadas no estado de direito e nos direitos humanos”, diz Helbing.
Nem tudo está bem
Os algoritmos estão determinando cada vez mais quais informações recebemos, quais produtos nos são mostrados e a que preço. Eles determinam o que vemos do mundo e quais problemas consideramos importantes. Isso está orientando cada vez mais nosso pensamento político e nosso comportamento eleitoral, diz Helbing.
Isso ficou evidente na campanha presidencial de Donald Trump em 2016, para a qual sua equipe usou algoritmos de big data para criar conteúdo personalizado para seus grupos-alvo. “Nós os bombardeamos com blogs, sites, artigos, vídeos, anúncios até que eles vissem o mundo do jeito que queríamos. Até votarem em nosso candidato”, foi como Brittany Kaiser descreveu seu trabalho de campanha no documentário da Netflix “The Great Hack”. Kaiser trabalhou para a Cambridge Analytica, a empresa que vasculhou os dados privados de 87 milhões de perfis do Facebook antes da eleição presidencial dos EUA, provocando um dos maiores escândalos de dados até hoje.
Mesmo durante a segunda campanha presidencial de Barack Obama em 2012, os eleitores foram alvo de mensagens. A equipe de Obama coletou o máximo de dados possível e enviou a cada eleitor uma mensagem personalizada.
É impossível afirmar com certeza até que ponto os métodos de campanha de IA contribuíram para o sucesso dos candidatos. Mas Helbing e seus colegas veem grande perigo nesses métodos. Acima de tudo, a combinação de microtargeting e nudging com big data sobre nosso comportamento, sentimentos e interesses pode dar origem ao poder totalitário, diz Helbing. Nudging é um termo psicológico e significa estimular as pessoas para um propósito específico ou em uma direção particular.
Campanhas de votação de IA na Suíça
A IA precisa de uma coisa acima de tudo: dados. E quanto mais tem, melhor funciona. Na Suíça, a proteção de dados e a privacidade são altamente valorizadas. Métodos de campanha como os usados nos EUA seriam possíveis aqui? Os partidos suíços poderiam transmitir sua mensagem aos eleitores usando o chamado microtargeting?
Lucas Leemann, cujo trabalho na Universidade de Zurique inclui pesquisas sobre como a opinião pública pode ser medida com a ajuda do aprendizado de máquina, não acredita que isso aconteça.
Ele diz que a situação na Suíça não é comparável à dos EUA. Isso, diz ele, é em parte porque o tipo de dados brutos que as campanhas de Trump e Obama usaram não estão disponíveis na Suíça. “Eles tinham pontos de dados para quase todos os cidadãos dos EUA”, diz ele. “Isso é completamente diferente na Suíça.”
Durante seus estudos, Leemann trabalhou brevemente para uma empresa de moda nos EUA e não apenas teve acesso ao banco de dados de clientes – nome, endereço e data de nascimento – mas também pôde ver estimativas de sua renda anual, quantos filhos eles tinham, quais carro que dirigiam e se alugavam ou possuíam sua própria casa.
“Nos EUA, você pode comprar facilmente esses dados e eles também são usados para fins políticos”, diz ele. “Na Suíça, que eu saiba, esse tipo de dado não é usado para campanhas políticas, ou pelo menos ainda não.”
O “ainda não” é a chave? Esses dados em breve estarão à venda também na Suíça? De acordo com Helbing da ETH Zurich, o uso de dados em todo o mundo é muito mais avançado do que a maioria das pessoas imagina.
Como exemplo, ele cita o World Economic Forum/Fórum Econômico Mundial (WEF/FEM) Center for Cybersecurity, com sede em Genebra, do qual participam organizações e empresas de todo o mundo – entre elas Amazon, MasterCard e Huawei Technologies. Helbing diz que “uma enorme quantidade de dados é coletada” lá. Os dados reunidos são usados – com a bênção das Nações Unidas – para fins que incluem a implementação da Agenda 2030 para o desenvolvimento sustentável.
“Isso pode ser bem-intencionado, mas levanta a questão de como isso é implementado e o que mais pode ser possível com todos esses dados”, diz Helbing. “Como tantas empresas estão envolvidas, existe o perigo de que os interesses comerciais superem os interesses sociais.”
Mais transparência
Especialistas alertam que leis e regulamentos precisam ser criados agora para evitar que a IA se torne um perigo para a democracia.
Mas, para criar regras de funcionamento, é necessário saber exatamente como os algoritmos funcionam. Isto é um problema. Plataformas como o Facebook são uma caixa preta, diz Anna Mätzener, diretora da AlgorithmWatch Schweiz. “Não sabemos, em detalhes, como os algoritmos funcionam”, diz ela. “Também não sabemos exatamente quais dados são coletados sobre quem.”
A IA que faz a curadoria de conteúdo nas mídias sociais é um segredo bem guardado. Para descobrir como os algoritmos afetaram as campanhas eleitorais, AlgorithmWatch iniciou um projeto de pesquisa em cooperação com o jornal Süddeutsche Zeitung. Eles pediram a centenas de voluntários que doassem dados de suas linhas do tempo do Instagram antes da eleição alemã em 2021. Os voluntários foram convidados a se inscrever nos perfis de vários partidos. Um plug-in de navegador registrava onde e quando o conteúdo desses perfis aparecia nos feeds de notícias dos usuários e transferia essas informações para o AlgorithmWatch.
A análise mostrou que o conteúdo da extrema-direita AfD (Alternativa para a Alemanha) chegou mais alto no feed de notícias do Instagram do que os de outros partidos. A pesquisa não conseguiu identificar por que esse é o caso.
Para a Meta (antiga Facebook), proprietária do Instagram, essa pesquisa foi claramente desagradável: a empresa ameaçou a AlgorithmWatch com “passos mais formais” se o projeto não fosse descartado. Como resultado, as doações de dados terminaram prematuramente.
“Enquanto esse tipo de pesquisa não for possível, não podemos dizer nada baseado em fatos sobre a influência que o conteúdo com curadoria de IA nas plataformas tem na sociedade, em particular na formação de opinião política e, como resultado, diretamente na democracia”, diz Mätzener.
Artigos recomendados: Suíça e Tech
Nenhum comentário:
Postar um comentário