YF, 19/09/2022 Com TechCrunch
Por Kyle Wiggers
Depois de desabilitar inicialmente o recurso, a OpenAI anunciou hoje que os clientes com acesso ao DALL-E 2 podem fazer upload de rostos de pessoas para editá-los usando o sistema de geração de imagens com inteligência artificial. Anteriormente, o OpenAI só permitia que os usuários trabalhassem e compartilhassem rostos fotorrealistas e proibia o upload de qualquer foto que pudesse retratar uma pessoa real, incluindo fotos de celebridades proeminentes e figuras públicas.
A OpenAI afirma que as melhorias em seu sistema de segurança tornaram possível o recurso de edição de rosto "minimizando o potencial de danos" de deepfakes, bem como tentativas de criar conteúdo sexual, político e violento. Em um e-mail para os clientes, a empresa escreveu:
Muitos de vocês nos disseram que sentem falta de usar o DALL-E para inventar roupas e penteados e editar os fundos das fotos de família. Um cirurgião reconstrutor nos disse que estava usando o DALL-E para ajudar seus pacientes a visualizar os resultados. E os cineastas nos disseram que querem poder editar imagens de cenas com pessoas para ajudar a acelerar seus processos criativos... [Nós] construímos novas técnicas de detecção e resposta para impedir o uso indevido.
A mudança nessa política não está necessariamente abrindo as comportas (liberalizando). Os termos de serviço da OpenAI continuarão a proibir o upload de fotos de pessoas sem seu consentimento ou imagens sobre as quais os usuários não têm direitos - embora não esteja claro o quão consistente historicamente a empresa tem sido sobre a aplicação dessas políticas.
De qualquer forma, será um verdadeiro teste da tecnologia de filtragem da OpenAI, que alguns clientes no passado reclamaram de serem excessivamente zelosos e um tanto imprecisos. Deepfakes vêm em muitos sabores, de fotos falsas de férias a presidentes de países devastados pela guerra. A contabilização de todas as formas emergentes de abuso será uma batalha sem fim, em alguns casos com riscos muito altos.
Sem dúvida, a OpenAI - que tem o apoio da Microsoft e de notáveis empresas de capital de risco, incluindo Khosla Ventures - está ansiosa para evitar a controvérsia associada ao Stability AI's Stable Diffusion, um sistema de geração de imagens que está disponível em um formato de código aberto sem quaisquer restrições. Como o TechCrunch escreveu recentemente, não demorou muito para que o Stable Diffusion - que também pode editar imagens de rosto - fosse usado por alguns para criar deepfakes pornográficos e não consensuais de celebridades como Emma Watson.
Até agora, o OpenAI se posicionou como uma alternativa simples e amigável à marca para a Stability AI sem restrições. E com as restrições em torno do novo recurso de edição de rosto para DALL-E 2, a empresa está mantendo o status quo.
DALL-E 2 permanece na versão beta somente para convidados. No final de agosto, a OpenAI anunciou que mais de um milhão de pessoas estão usando o serviço.
Artigos recomendados: IA e DPF
Fonte:https://finance.yahoo.com/news/openai-begins-allowing-users-edit-203432374.html
Nenhum comentário:
Postar um comentário