YN!, 04/06/2023
Imagine, se quiser, um doppelgänger digital. Um clone que se parece, fala e se comporta exatamente como você, criado das profundezas da inteligência artificial, refletindo todos os seus maneirismos com uma precisão assustadora. Por mais emocionante que possa parecer, como você se sentiria sobre isso?
Nossa pesquisa na University of British Columbia chama a atenção para essa mesma questão. Com os avanços nas tecnologias de aprendizado profundo, como aplicativos deepfake interativos, conversão de voz e atores virtuais, é possível replicar digitalmente a aparência e o comportamento de um indivíduo.
Essa imagem espelhada de um indivíduo criada por inteligência artificial é chamada de “clone de IA”. Nosso estudo mergulha nas águas turvas do que esses clones de IA podem significar para nossa autopercepção, relacionamentos e sociedade. Identificamos três tipos de riscos apresentados pelas réplicas de IA: doppelgänger-fobia, fragmentação de identidade e memórias vivas.
IA de clonagem
Definimos clones de IA como representações digitais de indivíduos, projetadas para refletir alguns ou vários aspectos do “indivíduo de origem” do mundo real.
Ao contrário de personagens fictícios em ambientes digitais, esses clones de IA são baseados em pessoas existentes, potencialmente imitando sua semelhança visual, maneirismos de conversação ou padrões comportamentais. A profundidade da replicação pode variar muito, desde a replicação de certos recursos distintos até a criação de um gêmeo digital quase perfeito.
Os clones de IA também são tecnologias interativas, projetadas para interpretar a entrada do usuário e do ambiente, conduzir o processamento interno e produzir uma saída perceptível. E, crucialmente, essas são tecnologias baseadas em IA construídas em dados pessoais.
À medida que o volume de dados pessoais que geramos continua a crescer, também aumenta a fidelidade desses clones de IA em replicar nosso comportamento.
Medos, fragmentações e falsas memórias
Apresentamos a 20 participantes oito cenários especulativos envolvendo clones de IA. Os participantes eram diversos em idades e origens e refletiram sobre suas emoções e os impactos potenciais em sua autopercepção e relacionamentos.
 |
| Vastas quantidades de dados gerados pelo usuário podem ser usadas para criar clones de IA. |
Primeiro, descobrimos que a doppelgänger-fobia era um medo não apenas do próprio clone de IA, mas também de seu potencial uso indevido. Os participantes temiam que suas contrapartes digitais pudessem explorar e deslocar sua identidade.
Em segundo lugar, havia a ameaça de fragmentação da identidade. A criação de réplicas ameaça a individualidade única do clonado, perturbando sua autopercepção coesa. Em outras palavras, as pessoas temem perder partes de sua singularidade e individualidade no processo de replicação.
Por fim, os participantes expressaram preocupação com o que descrevemos como “memórias vivas”. Isso está relacionado ao perigo representado quando uma pessoa interage com um clone de alguém com quem já tem um relacionamento. Os participantes temiam que isso pudesse levar a uma deturpação do indivíduo ou que desenvolvessem um apego excessivo ao clone, alterando a dinâmica das relações interpessoais.
Preservando os valores humanos
É evidente que o desenvolvimento e a implantação de clones de IA têm profundas implicações. Nosso estudo não apenas contribui com informações valiosas para o diálogo crítico sobre IA ética, mas também propõe uma nova estrutura para o design de clones de IA que prioriza identidade e autenticidade.
A responsabilidade recai sobre todas as partes interessadas - incluindo designers, desenvolvedores, formuladores de políticas e usuários finais - para navegar neste território desconhecido de forma responsável. Isso envolve considerar conscientemente a moderação e as estratégias de expiração de dados gerados pelo usuário para evitar uso indevido e excesso de confiança.
Além disso, é imperativo reconhecer que as implicações das tecnologias de clones de IA na identidade pessoal e nas relações interpessoais representam apenas a ponta do iceberg. À medida que continuamos a trilhar o delicado caminho desse campo florescente, os resultados de nosso estudo podem servir como uma bússola que nos guia para priorizar considerações éticas e valores humanos acima de tudo.
Este artigo é republicado do The Conversation, um site de notícias independente sem fins lucrativos dedicado a compartilhar ideias de especialistas acadêmicos. A conversa tem uma variedade deboletins informativos gratuitos fascinantes.
Artigos recomendados: DPF e IAG
Nenhum comentário:
Postar um comentário