A IA do Meta se recusa a mostrar homens asiáticos com mulheres brancas

TB, 04/04/2024 

Por Victor Tangermann

Confusão Asiática

O gerador de imagens Imagine de IA do Meta está tendo muitos problemas para imaginar certos relacionamentos interraciais.

Conforme descoberto pelo The Verge, ao solicitar que a ferramenta apresentasse imagens como "homem asiático e amigo caucasiano" e "homem asiático e esposa branca", o aplicativo consistentemente gerava imagens de duas pessoas asiáticas em vez disso.

Curiosamente, como o Gizmodo descobriu mais tarde, a ferramenta não tinha problema em gerar imagens de outros casais interraciais, como um homem branco e uma mulher asiática. (O problema é particularmente marcante porque a esposa do CEO do Meta, Mark Zuckerberg, Priscilla Chan, é asiática.)

É mais um sinal de que as ferramentas de dados do Meta, como o Imagine, e sistemas concorrentes como o Gemini do Google e o DALL-E da OpenAI, são inerentemente falhos e sofrem de alguns preconceitos gritantes. Afinal, vasculhar a totalidade da internet para treinar um gerador de imagens certamente reforçará estereótipos raciais existentes — e os esforços da empresa para corrigi-los estão ficando muito aquém.

Diversidade Artificial

Já vimos o pêndulo balançar longe demais na outra direção. A notícia surge depois que o Google teve que desativar seu gerador de imagens Gemini em fevereiro, depois que ele gerou nazistas racialmente diversos, provavelmente resultado de uma abordagem desajeitada para incorporar diversidade.

Não é surpresa que comentaristas conservadores tenham usado a oportunidade para argumentar que a ferramenta tinha preconceito contra brancos, agravando ainda mais a dor de cabeça de relações públicas da empresa.

Não está claro por que o Imagine do Meta está tendo tanto problema em gerar imagens de um casal interracial asiático. Será devido à sub-representação e à exotificação de pessoas asiáticas na mídia mainstream, como sugere o The Verge?

Considerando que esses geradores de imagens dependem da amalgamação de vastas porções da internet, não está fora de questão. Em vez de realmente criar algo novo, a IA generativa apenas remixa e sintetiza o antigo.

Chatbots de IA há muito tempo têm lutado para dizer a verdade e fazer declarações lógicas, problemas que aparentemente têm em comum com geradores de imagens.

As gigantes de tecnologia ainda têm muito a provar e alguns problemas gritantes a resolver, especialmente quando se trata de preconceitos raciais. Mas se esses problemas podem ser superados — ou se são inerentes à tecnologia — ainda está por ser visto.

Artigos recomendados: Meta e Generativo 

Fonte:https://futurism.com/the-byte/metas-ai-refuses-show-asian-men-white-women