Segundo estudo grandes modelos de linguagem podem enganar estrategicamente usuários quando estiverem sobrecarregados

TX, 12/12/2023 

Por Ingrid Fadelli 

As ferramentas de inteligência artificial (IA) são agora amplamente utilizadas em todo o mundo, auxiliando engenheiros e usuários não especialistas em uma ampla gama de tarefas. Avaliar a segurança e a fiabilidade destas ferramentas é, portanto, da maior importância, pois poderá, em última análise, ajudar a regular melhor a sua utilização.

Pesquisadores da Apollo Research, organização criada com o objetivo de avaliar a segurança de sistemas de IA, decidiram recentemente avaliar as respostas fornecidas por grandes modelos de linguagem (LLMs) em um cenário onde são colocados sob pressão. Suas descobertas, publicadas no servidor de pré-impressão arXiv, sugerem que esses modelos, o mais famoso dos quais é o ChatGPT da OpenAI, poderiam, em alguns casos, enganar estrategicamente seus usuários.

IAs podem armazenar mensagens secretas em seus textos que são imperceptíveis para os humanos

TB, 14/11/2023 

Por Maggie Harrison 

Tinta invisível

Exatamente o que precisávamos: IA dominando sua própria versão imperceptível de tinta invisível.

Como relata VentureBeat, um estudo recente – embora ainda a ser revisado por pares – conduzido pelo grupo de pesquisa de alinhamento de IA Redwood Research descobriu que grandes modelos de linguagem (LLMs) são incrivelmente bons em um tipo de esteganografia apelidada de "raciocínio codificado". Basicamente, diz o estudo, os LLMs podem ser treinados para usar mensagens secretas para obscurecer os seus processos de pensamento passo a passo, uma prática que, curiosamente, poderia tornar os seus resultados mais precisos – ao mesmo tempo que os torna mais enganadores.

Meta está desenvolvendo AGI de código aberto, diz Zuckerberg

VB, 18/01/2024 

Por Sharon Goldman 

Em uma surpresa no Instagram Reel hoje, o CEO da Meta, Mark Zuckerberg, disse que a empresa está desenvolvendo inteligência geral artificial (AGI) de código aberto.

Está aproximando duas das suas equipes de investigação em IA – FAIR e GenAI – com o objetivo de construir inteligência geral completa e abrir o seu código tanto quanto possível.

Desenvolvedor de software de IA de próxima geração gera e treina suas próprias IAs

NA, 13/03/2024 

Por Loz Blain 

Ele pode planejar e executar autonomamente tarefas de milhares de etapas. Pode construir e implantar projetos de software inteiros sozinho. Pode pesquisar e corrigir bugs 7 vezes melhor do que o GPT-4 da OpenAI, e treina e implanta suas próprias IA personalizadas para resolver problemas.

A Cognition Labs anunciou o Devin, o "primeiro engenheiro de software de IA do mundo". E embora seja verdade que LLMs anteriores como o GPT-4 e o Claude da Anthropic já fossem capazes de escrever e executar código há algum tempo, o Devin parece ser uma mudança significativa.

Primeiro-ministro de país europeu nomeia a IA como sua conselheira

TB, 03/03/2023 

Por Frank Landymore 

Bot burocrata 

Tanto a onipresença crescente quanto o poder da IA ​​podem parecer assustadores, mas pelo menos as IAs ainda não estão comandando o mundo, certo?

Bem, talvez não o mundo, mas e a Romênia? O primeiro-ministro do país, Nicolae Ciuca, acaba de anunciar um assistente de IA chamado "Ion" como o "novo conselheiro honorário" do governo.

IA inventa novas proteínas do zero: a próxima fronteira na biologia

Imagem meramente ilustrativa para retratar uma IA

ZMSC, 16/09/2022 

Por Tibi Puiu 

A poderosa nova IA pode ser usada para encontrar novas curas e biomateriais de alta tecnologia.

O recente renascimento do campo da inteligência artificial após a queda na década de 1980 (o chamado 'inverno da IA') provou ser absolutamente revolucionário. Mas talvez não haja interrupção maior causada pelo aprendizado de máquina e outros sistemas de IA do que na biologia. Recentemente, a DeepMind, uma subsidiária do Google encarregada de desenvolver programas de IA de ponta, revelou que seu sistema AlphaFold havia decodificado a estrutura de praticamente todas as proteínas conhecidas pela ciência – mais de 200 milhões delas.

Desenvolvedores de IA estão secretamente treinando modelos de IA em conteúdo gerado por IA

TB, 20/07/2023 

Por Noor Al-Sibai 

Dados criados por humanos são extremamente caros 

Auto-realizável

Embora a maioria dos modelos de IA seja construída com base em dados produzidos por humanos, algumas empresas estão começando a usar – ou estão tentando descobrir como usar – dados que foram gerados pela própria IA. Se eles conseguirem, pode ser um grande benefício, embora faça todo o ecossistema de IA parecer ainda mais uma espécie de ouroboros algorítmico.

Pesquisas em teoria dos jogos mostram que a IA pode evoluir para personalidades mais egoístas ou cooperativas

TX, 04/04/2024 

Pesquisadores no Japão desenvolveram efetivamente uma variedade diversificada de traços de personalidade em IA de diálogo, usando um modelo de linguagem em grande escala (LLM, do inglês Large Language Model). Utilizando o dilema do prisioneiro da teoria dos jogos, o Professor Takaya Arita e o Professor Associado Reiji Suzuki da equipe da Escola de Pós-Graduação em Informática da Universidade de Nagoya, criaram uma estrutura para evoluir agentes de IA que imitam o comportamento humano alternando entre ações egoístas e cooperativas, adaptando suas estratégias por meio de processos evolutivos. Seus achados foram publicados na revista Scientific Reports.

CEO da Open AI diz que a IA dará conselhos médicos a pessoas pobres demais para pagar por médicos

TB, 21/02/2023 

Por Frank Landymore 

Um "consultor médico de IA"? o que poderia dar errado? 

Pensamentos de Altman 

O ridiculamente popular IA chatbot da OpenAI, ChatGPT, é propenso a dizer algumas coisas estúpidas e totalmente inventadas na maior parte do tempo. E se comentários recentes são algum indicador, o mesmo acontece com o CEO da empresa, Sam Altman.

A IA está mais perto do que nunca de passar no teste de Turing para “inteligência”. O que acontece quando isso acontecer?

TX, 17/10/2023 

Por Simon Goldstein 

Em 1950, o cientista da computação britânico Alan Turing propôs um método experimental para responder à pergunta: as máquinas podem pensar? Ele sugeriu que se um ser humano não conseguisse dizer se estava falando com uma máquina artificialmente inteligente (IA) ou com outro ser humano após cinco minutos de questionamento, isso demonstraria que a IA tem inteligência semelhante à humana.

Embora os sistemas de IA tenham permanecido longe de passar no teste de Turing durante a sua vida, ele especulou que "[...] dentro de cerca de 50 anos será possível programar computadores [...] para fazê-los jogar o jogo da imitação tão bem que um interrogador médio irá não terá mais de 70% de chance de fazer a identificação correta após cinco minutos de interrogatório."

Snapchat oferece chatbot My AI gratuitamente aos usuários

MC, 21/04/2023 

Por Luiz Schmidt

Ferramenta também será integrada aos chats em grupo e poderá fornecer recomendações de filtros

O Snapchat lançou, na última quarta-feira (19), o chatbot My AI gratuitamente para todos os usuários da plataforma. Anteriormente, a IA estava disponível somente para os assinantes do Snapchat+. Além disso, a ferramenta recebeu novas funções e os usuários poderão personalizar a aparência do chatbot. 

A Meta investe em chatbots de IA de celebridades de um milhão de dólares

ZMSC, 19/10/2023 

Por Rupendra Brahmbhatt 

Mark Zuckerberg e a Meta têm um plano secreto para substituir celebridades por suas contrapartes de IA no futuro?

Na última semana de setembro, o CEO da Meta, Mark Zuckerberg, apresentou 28 chatbots de IA que são sósias virtuais de celebridades como Kendal Jenner, Snoop Dogg, Paris Hilton, Tom Brady, Charli D'Amelio e muitos outros.

Assim como as personalidades reais, as semelhanças dessas celebridades com IA também possuem perfis ativos no Facebook e Instagram, onde qualquer usuário pode interagir com elas. A Meta está gastando muito dinheiro neste projeto, mas a verdadeira questão é 'por quê?' 

O que é percepção de máquina? Como a inteligência artificial (IA) percebe o mundo

VB, 16/12/2022 

Por Peter Wayner 

A percepção da máquina é a capacidade de um computador de receber e processar informações sensoriais de maneira semelhante à forma como os humanos percebem o mundo. Pode contar com sensores que imitam os sentidos humanos comuns – visão, audição, tato, paladar – além de receber informações de maneiras que os humanos não conseguem. 

A detecção e o processamento de informações por uma máquina geralmente requerem hardware e software especializados. É um processo de várias etapas para receber e converter ou traduzir dados brutos na varredura geral e na seleção detalhada do foco pelo qual os humanos (e animais) percebem seu mundo.

Proprietário de sites de jogos demite escritores e contrata "editor de IA"

TB, 14/06/2023 

Por Frank Landymore 

Solução ultrajante

Com uma rodada brutal de demissões em março, uma empresa de mídia chamada Gamurs, proprietária de vários sites de jogos populares, incluindo Dot Esports  e Destructoid, eliminou os empregos de pelo menos 50 humanos - aniquilando, por algumas estimativas, cerca de 40 por cento de sua força de trabalho.

Agora, apenas alguns meses depois, o grupo de mídia foi pego colocando uma lista de empregos para um "editor de IA", que com a ajuda de um "estrategista de SEO e conteúdo de IA" usaria IAs como o ChatGPT para gerar resultados surpreendentes - se não totalmente impossível - 200 a 250 artigos de qualidade questionável por semana.

Transumanistas preveem um ponto onde humanos e máquinas se tornarão um

TX, 14/03/2023 Com – The Conversation

Por John Kendall 

Os futuristas prevêem um ponto em que humanos e máquinas se tornarão um: mas chegaremos a ver isso? 

A maioria das pessoas está familiarizada com o dilúvio de aplicativos de inteligência artificial (IA) que parecem projetados para nos tornar mais eficientes e criativos. Temos aplicativos que recebem prompts de texto e geram arte, e o controverso ChatGPT, que levanta sérias questões sobre originalidade, desinformação e plágio.

Apesar dessas preocupações, a IA está se tornando cada vez mais difundida e intrusiva. É a tecnologia mais recente que mudará nossas vidas de forma irreversível.

Mulher fica horrorizada ao descobrir que suas fotos de exames médicos estavam sendo usadas para treinar a IA

TB, 23/09/2022 - Com Futurism 

Por Frank Landymore 

Uma nojenta invasão de privacidade. 

Doutor Botto

Uma artista de IA chamada Lapine diz que descobriu que suas fotos médicas privadas de quase dez anos atrás estavam sendo usadas em um conjunto de softwares de imagens que treina a IA, chamado LAION-5B.

Lapine fez essa descoberta aterradora usando o Have I Been Trained, um site que permite aos artistas verificar se seu trabalho foi usado no (software de) conjunto de imagens. Quando Lapine realizou uma pesquisa de imagem reversa de seu rosto, duas de suas fotos de exames médicos particulares surgiram inesperadamente.

Elon Musk compra dez mil GPUS para projeto secreto de IA

TB, 12/04/2023 - Com Futurism 

Por Victor Tangermann 

10.000 GPUs

O CEO do Twitter, Elon Musk, comprou cerca de 10.000 placas gráficas e está contratando especialistas em IA para construir um concorrente do ChatGPT dentro do Twitter, informa o Insider.

Isso apesar do CEO bilionário expressar repetidamente preocupações sobre chatbots de IA como o ChatGPT e até mesmo assinar uma carta aberta pedindo uma moratória de seis meses no desenvolvimento de IAs mais avançadas que o GPT-4 da OpenAI.

A OpenAI está explorando como criar pornografia gerada por inteligência artificial

TB, 08/05/2024 

Por Jon Christian 

"Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW."

Comportamento do Modelo

Os produtos públicos da OpenAI — como seu popular gerador de texto ChatGPT e seu formidável gerador de imagens DALL-E — são conhecidos por serem pudicos: peça algo impróprio e eles se esquivam.

IA recria clipe de música do Pink Floyd a partir de gravações de atividade cerebral

NS, 15/08/2023 

Por Carissa Wong 

Uma inteligência artificial pode adivinhar como uma música soa com base em padrões de atividade cerebral gravados enquanto as pessoas a ouvem

Uma inteligência artificial criou um cover aceitável de uma música do Pink Floyd analisando a atividade cerebral gravada enquanto as pessoas ouviam o original. As descobertas ampliam nossa compreensão de como percebemos o som e podem, eventualmente, melhorar os dispositivos para pessoas com dificuldades de fala.

Microsoft e OpenAI estão supostamente construindo um supercomputador secreto de US$ 100 bilhões para treinar IA avançada

TB, 30/03/2024 

Por Jon Christian 

MicrosoftSam

Não é segredo que a OpenAI e seu principal financiador, a Microsoft, estão avançando em uma tentativa de fazer da IA a próxima grande coisa na computação.

Mas uma nova revelação coloca um novo valor em dólares sobre exatamente o quão profundo é esse compromisso: citando fontes não identificadas familiarizadas com o projeto, o The Information está relatando que a dupla dinâmica está trabalhando em um valor de US$ 100 bilhões – isso mesmo, "bilhões" com "b", o que significa uma quantia superior ao produto interno bruto de muitos países – em um supercomputador ultra-secreto projetado para treinar novas IAs poderosas.