TB, 08/05/2024
Por Jon Christian
"Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW."
Comportamento do Modelo
Os produtos públicos da OpenAI — como seu popular gerador de texto ChatGPT e seu formidável gerador de imagens DALL-E — são conhecidos por serem pudicos: peça algo impróprio e eles se esquivam.
Mas parece que isso pode não ser sempre o caso. Como observado pela Wired, o "especificação do modelo" recém-lançado pela empresa — basicamente uma documentação preliminar sobre como a IA da empresa deve se comportar — observa que as criações da OpenAI atualmente não têm permissão para criar material obsceno, mas deixa a porta aberta para que isso mude em uma nota "comentário".
"Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW em contextos apropriados para a idade, por meio da API e do ChatGPT," diz. "Estamos ansiosos para entender melhor as expectativas dos usuários e da sociedade sobre o comportamento do modelo nessa área."
Vergonha da Obscenidade
Apesar dos melhores esforços da OpenAI, o sexo tem sido uma área-chave de experimentação em IA até agora. Já vimos pessoas conversando de forma maliciosa e até mesmo tendo relacionamentos românticos com IAs — incluindo aqueles desenvolvidos pela OpenAI, apesar de seus melhores esforços —, bem como sites que geram imagens obscenas e esforços até agora principalmente horríveis no domínio de vídeos também.
Na prática, os resultados muitas vezes são eticamente confusos. A polícia investigou vários incidentes em que imagens nuas de estudantes foram circuladas em escolas de ensino fundamental e ensino médio, e celebridades que foram alvo de deepfakes sexualizados gerados por AI. E todas as críticas habituais à IA se aplicam tanto quanto sempre: se você gera conteúdo NSFW usando um sistema de IA, não parece invasivo para todas as pessoas que não consentiram em ser incluídas nos dados de treinamento do modelo?
Os insiders da OpenAI encarregados de descobrir como seus diversos sistemas de IA devem se comportar, sem dúvida estão profundamente conscientes de todo esse contexto e crítica, daí a redação muito cuidadosa da nota de comentário. Tornando todo o tópico muito mais iminente está o gerador de vídeo atualmente não lançado da OpenAI, Sora, que pode criar imagens sintéticas convincentes (quando perguntada se o software teria permissão para gerar vídeo nu há alguns meses, a diretora de tecnologia da OpenAI disse que "não estava certa").
Uma coisa é certa: independentemente de a OpenAI aderir ou não, a pornografia provavelmente será uma força motriz por trás da indústria de IA.
Artigos recomendados: Conteúdo e Generativo
Fonte:https://futurism.com/the-byte/openai-exploring-ai-porn
Nenhum comentário:
Postar um comentário