SIJ, 07/05/2023
Por Roger Montti
Ray Kurzweil escreve que pausar a pesquisa de IA é impraticável e priva a humanidade de benefícios profundos
Ray Kurzweil, um notável futurista e ex-diretor de engenharia do Google, publicou uma refutação à carta pedindo uma pausa na pesquisa de IA, oferecendo razões pelas quais a proposta é impraticável e priva a humanidade de avanços e inovações médicas que beneficiam profundamente a humanidade.
Uma carta aberta assinada por cientistas e celebridades de todo o mundo (publicada no FutureOfLife.org) pediu uma pausa completa no desenvolvimento de IA que é mais poderosa do que a GPT-4, a versão mais recente criada pela OpenAI.
Além de pausar o desenvolvimento da IA, eles também pediram o desenvolvimento de protocolos de segurança que são supervisionados por especialistas independentes terceirizados.
Alguns dos pontos levantados pelos autores da carta aberta:
- A IA representa um risco profundo
- O desenvolvimento da IA só deve prosseguir quando as aplicações benéficas da tecnologia forem enumeradas e justificadas
- A IA só deve prosseguir se "nós" (os milhares de signatários da carta) estivermos confiantes de que os riscos da IA são gerenciáveis.
- Os desenvolvedores de IA são chamados a trabalhar em conjunto com os formuladores de políticas para desenvolver sistemas de governança de IA compostos por órgãos reguladores.
- O desenvolvimento de tecnologias de marca d'água para ajudar a identificar o conteúdo criado pela IA e para controlar a disseminação da tecnologia.
- Um sistema de atribuição de responsabilidade por danos criado pela IA
- Criação de instituições para lidar com as disrupções causadas pela tecnologia de IA
A carta parece vir de um ponto de vista de que a tecnologia de IA é centralizada e pode ser pausada pelas poucas organizações no controle da tecnologia. Mas a IA não está exclusivamente nas mãos de governos, institutos de pesquisa e corporações.
A IA é, neste momento, uma tecnologia de código aberto e descentralizada, desenvolvida por milhares de indivíduos em escala global de colaboração.
Ray Kurzweil: futurista, autor e ex-diretor de engenharia do Google
Ray Kurzweil projeta softwares e máquinas focados em inteligência artificial desde a década de 1960, escreveu muitos livros populares sobre o tema e é famoso por fazer previsões sobre o futuro que tendem a ser corretas.
Das 147 previsões que fez sobre a vida em 2009, apenas três previsões, num total de 2%, estavam erradas.
Entre suas previsões na década de 1990 está a de que muitas mídias físicas, como livros, perderão popularidade à medida que forem digitalizadas. Em uma época na década de 1990 em que os computadores eram grandes e volumosos, ele previu que os computadores seriam pequenos o suficiente para usar até 2009, o que acabou sendo verdade (How My Predictions Are Faring – 2010 PDF).
As previsões recentes de Ray Kurzweil se concentram em tudo de bom que a IA trará, particularmente nos avanços médicos e científicos.
Kurzweil também está focado na ética da IA.
Em 2017, ele foi um dos participantes (junto com o CEO da OpenAI, Sam Altman) que elaborou uma carta aberta conhecida como Princípios de IA Asilomar que também foram publicados no site Future of Life, diretrizes para o desenvolvimento seguro e ético de tecnologias de Inteligência Artificial.
Entre os princípios que ajudou a criar:
- "O objetivo da pesquisa de IA deve ser criar não inteligência não direcionada, mas inteligência benéfica.
- Os investimentos em IA devem ser acompanhados de financiamento para pesquisas que garantam seu uso benéfico
- Deve haver um intercâmbio construtivo e saudável entre os investigadores de IA e os decisores políticos.
- A IA avançada pode representar uma mudança profunda na história da vida na Terra, e deve ser planejada e gerenciada com cuidados e recursos proporcionais.
- A superinteligência só deve ser desenvolvida a serviço de ideais éticos amplamente compartilhados e para o benefício de toda a humanidade, em vez de um Estado ou organização."
A resposta de Kurzweil à carta aberta pedindo uma pausa no desenvolvimento de IA veio de uma vida inteira inovando a tecnologia do ponto de vista de todo o bem benéfico que ela pode fazer para a humanidade e o mundo natural.
Sua resposta se concentrou em três pontos principais:
- O apelo a uma pausa é demasiado vago para ser prático
- Todas as nações devem concordar com a pausa ou os objetivos serão descartados desde o início
- Uma pausa no desenvolvimento ignora os benefícios, como a identificação de curas para doenças.
Muito vago para ser prático
Seu primeiro ponto sobre a carta é que ela é muito vaga porque está alegando uma pausa na IA que é mais poderosa do que a GPT-4, que assume que a GPT-4 é o único tipo de IA.
Kurzweil escreveu:
"Em relação à carta aberta para "pausar" a pesquisa sobre IA "mais poderosa que a GPT-4", esse critério é muito vago para ser prático."
Nações optarão por não fazer pausa
Seu segundo ponto é que as demandas descritas na carta só podem funcionar se todos os pesquisadores ao redor do mundo cooperarem voluntariamente.
Qualquer nação que se recuse a assinar terá a vantagem, que é provavelmente o que aconteceria.
Ele escreve:
"E a proposta enfrenta um sério problema de coordenação: aqueles que concordam com uma pausa podem ficar muito atrás de corporações ou nações que discordam."
Esse ponto deixa claro que o objetivo de uma pausa completa não é viável, porque as nações não cederão uma vantagem e também, a IA está democratizada e de código aberto, nas mãos de indivíduos ao redor do mundo.
IA traz benefícios significativos para a IA
Houve editoriais descartando que a IA tivesse muito pouco benefício para a sociedade, argumentando que aumentar a produtividade dos trabalhadores não é suficiente para justificar os riscos que eles temem.
O ponto final de Kurzweil é que a carta aberta que busca uma pausa no desenvolvimento de IA ignora completamente todo o bem que a IA pode fazer.
Ele explica:
"Há enormes benefícios no avanço da IA em campos críticos, como medicina e saúde, educação, busca de fontes de energia renováveis para substituir os combustíveis fósseis e dezenas de outros campos.
... mais nuances são necessárias se quisermos desbloquear as profundas vantagens da IA para a saúde e a produtividade, evitando os perigos reais."
Perigos, Medo do Desconhecido e Benefícios para a Humanidade
Kurzweil faz bons pontos sobre como a IA pode beneficiar a sociedade. Seu ponto de que não há como realmente pausar a IA é válido.
Sua explicação da IA enfatiza os profundos benefícios para a humanidade que são inerentes à IA.
Será que a implementação da OpenAI como chatbot banaliza a IA e ofusca o benefício para a humanidade, ao mesmo tempo em que assusta as pessoas que não entendem como a IA generativa funciona?
Artigos recomendados: TC e NOM
Fonte:https://www.searchenginejournal.com/ray-kurzweil-rebuts-calls-to-pause-ai-research/486315/
Nenhum comentário:
Postar um comentário