Ray Kurzweil rebate apelos para pausar pesquisa de IA

SIJ, 07/05/2023 

Por Roger Montti 

Ray Kurzweil escreve que pausar a pesquisa de IA é impraticável e priva a humanidade de benefícios profundos

Ray Kurzweil, um notável futurista e ex-diretor de engenharia do Google, publicou uma refutação à carta pedindo uma pausa na pesquisa de IA, oferecendo razões pelas quais a proposta é impraticável e priva a humanidade de avanços e inovações médicas que beneficiam profundamente a humanidade.

Carta Internacional para Pausar o Desenvolvimento de IA

Uma carta aberta assinada por cientistas e celebridades de todo o mundo (publicada no FutureOfLife.org) pediu uma pausa completa no desenvolvimento de IA que é mais poderosa do que a GPT-4, a versão mais recente criada pela OpenAI.

Além de pausar o desenvolvimento da IA, eles também pediram o desenvolvimento de protocolos de segurança que são supervisionados por especialistas independentes terceirizados.

Alguns dos pontos levantados pelos autores da carta aberta:

• A IA representa um risco profundo

• O desenvolvimento da IA só deve prosseguir quando as aplicações benéficas da tecnologia forem enumeradas e justificadas

• A IA só deve prosseguir se "nós" (os milhares de signatários da carta) estivermos confiantes de que os riscos da IA são gerenciáveis.

• Os desenvolvedores de IA são chamados a trabalhar em conjunto com os formuladores de políticas para desenvolver sistemas de governança de IA compostos por órgãos reguladores.

• O desenvolvimento de tecnologias de marca d'água para ajudar a identificar o conteúdo criado pela IA e para controlar a disseminação da tecnologia.

• Um sistema de atribuição de responsabilidade por danos criado pela IA

• Criação de instituições para lidar com as disrupções causadas pela tecnologia de IA

A carta parece vir de um ponto de vista de que a tecnologia de IA é centralizada e pode ser pausada pelas poucas organizações no controle da tecnologia. Mas a IA não está exclusivamente nas mãos de governos, institutos de pesquisa e corporações.

A IA é, neste momento, uma tecnologia de código aberto e descentralizada, desenvolvida por milhares de indivíduos em escala global de colaboração.

Ray Kurzweil: futurista, autor e ex-diretor de engenharia do Google

Ray Kurzweil projeta softwares e máquinas focados em inteligência artificial desde a década de 1960, escreveu muitos livros populares sobre o tema e é famoso por fazer previsões sobre o futuro que tendem a ser corretas.

Das 147 previsões que fez sobre a vida em 2009, apenas três previsões, num total de 2%, estavam erradas.

Entre suas previsões na década de 1990 está a de que muitas mídias físicas, como livros, perderão popularidade à medida que forem digitalizadas. Em uma época na década de 1990 em que os computadores eram grandes e volumosos, ele previu que os computadores seriam pequenos o suficiente para usar até 2009, o que acabou sendo verdade (How My Predictions Are Faring – 2010 PDF).

As previsões recentes de Ray Kurzweil se concentram em tudo de bom que a IA trará, particularmente nos avanços médicos e científicos.

Kurzweil também está focado na ética da IA.

Em 2017, ele foi um dos participantes (junto com o CEO da OpenAI, Sam Altman) que elaborou uma carta aberta conhecida como Princípios de IA Asilomar que também foram publicados no site Future of Life, diretrizes para o desenvolvimento seguro e ético de tecnologias de Inteligência Artificial.

Entre os princípios que ajudou a criar:

• "O objetivo da pesquisa de IA deve ser criar não inteligência não direcionada, mas inteligência benéfica.

• Os investimentos em IA devem ser acompanhados de financiamento para pesquisas que garantam seu uso benéfico

• Deve haver um intercâmbio construtivo e saudável entre os investigadores de IA e os decisores políticos.

• A IA avançada pode representar uma mudança profunda na história da vida na Terra, e deve ser planejada e gerenciada com cuidados e recursos proporcionais.

• A superinteligência só deve ser desenvolvida a serviço de ideais éticos amplamente compartilhados e para o benefício de toda a humanidade, em vez de um Estado ou organização."

A resposta de Kurzweil à carta aberta pedindo uma pausa no desenvolvimento de IA veio de uma vida inteira inovando a tecnologia do ponto de vista de todo o bem benéfico que ela pode fazer para a humanidade e o mundo natural.

Sua resposta se concentrou em três pontos principais:

• O apelo a uma pausa é demasiado vago para ser prático

• Todas as nações devem concordar com a pausa ou os objetivos serão descartados desde o início

• Uma pausa no desenvolvimento ignora os benefícios, como a identificação de curas para doenças.

Muito vago para ser prático

Seu primeiro ponto sobre a carta é que ela é muito vaga porque está alegando uma pausa na IA que é mais poderosa do que a GPT-4, que assume que a GPT-4 é o único tipo de IA.

Kurzweil escreveu:

"Em relação à carta aberta para "pausar" a pesquisa sobre IA "mais poderosa que a GPT-4", esse critério é muito vago para ser prático."

Nações optarão por não fazer pausa

Seu segundo ponto é que as demandas descritas na carta só podem funcionar se todos os pesquisadores ao redor do mundo cooperarem voluntariamente.

Qualquer nação que se recuse a assinar terá a vantagem, que é provavelmente o que aconteceria.

Ele escreve:

"E a proposta enfrenta um sério problema de coordenação: aqueles que concordam com uma pausa podem ficar muito atrás de corporações ou nações que discordam."

Esse ponto deixa claro que o objetivo de uma pausa completa não é viável, porque as nações não cederão uma vantagem e também, a IA está democratizada e de código aberto, nas mãos de indivíduos ao redor do mundo.

IA traz benefícios significativos para a IA

Houve editoriais descartando que a IA tivesse muito pouco benefício para a sociedade, argumentando que aumentar a produtividade dos trabalhadores não é suficiente para justificar os riscos que eles temem.

O ponto final de Kurzweil é que a carta aberta que busca uma pausa no desenvolvimento de IA ignora completamente todo o bem que a IA pode fazer.

Ele explica:

"Há enormes benefícios no avanço da IA em campos críticos, como medicina e saúde, educação, busca de fontes de energia renováveis para substituir os combustíveis fósseis e dezenas de outros campos.

... mais nuances são necessárias se quisermos desbloquear as profundas vantagens da IA para a saúde e a produtividade, evitando os perigos reais."

Perigos, Medo do Desconhecido e Benefícios para a Humanidade

Kurzweil faz bons pontos sobre como a IA pode beneficiar a sociedade. Seu ponto de que não há como realmente pausar a IA é válido.

Sua explicação da IA enfatiza os profundos benefícios para a humanidade que são inerentes à IA.

Será que a implementação da OpenAI como chatbot banaliza a IA e ofusca o benefício para a humanidade, ao mesmo tempo em que assusta as pessoas que não entendem como a IA generativa funciona?

Artigos recomendados: TC e NOM

Fonte:https://www.searchenginejournal.com/ray-kurzweil-rebuts-calls-to-pause-ai-research/486315/