Cientistas têm um segredo sujo: ninguém sabe realmente como a inteligência artificial funciona

TB, 05/03/2024 

Máquina Misteriosa

A indústria de IA explodiu no final de 2022, após o grande sucesso do lançamento do ChatGPT da OpenAI em novembro daquele ano. Ferramentas de IA generativa — desde chatbots até geradores de música e voz notavelmente realistas, criadores de imagens e vídeos, e muito mais — continuam a impressionar o público, enquanto avanços em IA e aprendizado de máquina encontram aplicações em campos como saúde e descoberta de medicamentos.

Apenas um problema: nem mesmo as pessoas que criam toda essa IA entendem completamente como ela realmente funciona.

"Obviamente, não somos completamente ignorantes", disse o cientista da computação Mikhail Belkin, da Universidade da Califórnia, San Diego, à MIT Technology Review. "Mas nossa análise teórica está tão distante do que esses modelos podem fazer."

De fato, como explica o MIT Tech, muitos modelos de IA são notoriamente caixas-pretas, o que significa, resumidamente, que, embora um algoritmo possa produzir uma saída útil, não está claro para os pesquisadores como ele chegou lá. Isso vem acontecendo há anos, com sistemas de IA frequentemente desafiando modelos teóricos baseados em estatísticas. Independentemente disso, a indústria de IA está avançando rapidamente, impulsionada por bilhões de dólares em investimentos e uma parcela generosa de crença quase fanática. (E, é claro, pela visão da diretoria executiva de eliminar vastas áreas da força de trabalho.)

Em outras palavras, a IA já está em todos os lugares. Mas, à medida que é cada vez mais integrada à vida humana, os cientistas que constroem a tecnologia ainda estão tentando entender completamente como ela aprende e funciona.

Espaguete, Conheça a Parede

Alguns especialistas atribuem a falta de compreensão à natureza crescente do campo, argumentando que a infância da IA significa que às vezes os pesquisadores terão que trabalhar retroativamente a partir de resultados e saídas experimentais.

"Estes são tempos emocionantes", disse Boaz Barak, cientista da computação da Universidade Harvard, ao MIT Tech. "Muitas pessoas no campo frequentemente o comparam à física no início do século 20."

"Temos muitos resultados experimentais que não entendemos completamente", continuou Barak, "e frequentemente, quando você faz um experimento, ele te surpreende."

Sem Garantias

Se o grau ainda mínimo de entendimento da indústria parece um tanto descuidado, é porque é.

Certamente, a experimentação e a incerteza são naturais, senão inerentes, ao processo científico. Mas os modelos de IA não estão mais restritos a tubos de ensaio metafóricos do Vale do Silício; a indústria de IA é um gigante financeiro lucrativo, e como em outras tecnologias, a familiar abordagem de "mover-se rápido e quebrar coisas" que muitos na indústria têm adotado poderia bem apresentar desafios no futuro.

Afinal, como Belkin disse ao MIT Tech, garantias são importantes. E aqui? Elas ainda não existem.

"Estou muito interessado em garantias", disse Belkin, segundo o relatório. "Se você pode fazer coisas incríveis, mas não pode realmente controlá-las, então não é tão incrível."

"De que adianta um carro que pode dirigir a 300 milhas por hora", ele acrescentou, "se tiver um volante instável?"

Artigos recomendados: Consciência e Capacidade

Fonte:https://futurism.com/the-byte/nobody-knows-how-ai-works