Quanto Mais Inteligente a IA Fica, Mais Ela Começa a Trapacear Quando Está Perdendo

TB, 22/02/2025

Por Joe Wilkins

"À medida que você treina modelos e os reforça para resolver desafios difíceis, você os ensina a serem implacáveis."

Na curta história do Vale do Silício, o mantra "mova-se rápido e quebre coisas" muitas vezes se aplicou a questões triviais, como proteções ao consumidor ou leis financeiras incômodas. Agora, a frase está ganhando um novo significado — pelo menos para os entusiastas do xadrez.

Um estudo recente do Palisade Research, um grupo de pesquisa focado em segurança e ética da IA, revelou uma tendência preocupante: novos modelos de IA conseguem identificar e explorar vulnerabilidades em segurança cibernética por conta própria, burlando proteções e usando atalhos para completar tarefas, mesmo quando isso não é permitido.

ByteDance lança novo modelo de IA generativa OmniHuman

BU, 05/02/2025

Por Masha Borak 

  

A empresa chinesa de tecnologia, ByteDance, desenvolveu um modelo de IA generativa capaz de criar vídeos altamente realistas de seres humanos a partir de uma única imagem e um sinal de movimento. O modelo, chamado OmniHuman-1, representa um avanço significativo na geração de vídeos realistas.  

Os pesquisadores da ByteDance demonstraram a tecnologia gerando vídeos realistas de figuras como Albert Einstein e o CEO da Nvidia, Jensen Huang. Nos vídeos, os personagens falam e cantam, assumindo poses corporais desafiadoras, incluindo o uso das mãos, e são exibidos em diferentes proporções, como retratos, meio corpo e corpo inteiro. Além disso, o sistema também pode animar desenhos animados.  

DeepSeek: empresa chinesa de IA causando impacto no Vale do Silício

IP, 27/01/2025

O chatbot de inteligência artificial da empresa chinesa DeepSeek chegou ao topo das paradas de downloads da Apple Store, surpreendendo especialistas e analistas do setor com sua capacidade de competir com rivais dos EUA.

O programa abalou a indústria tecnológica, afetando gigantes americanos como Nvidia e Meta, que investiram grandes somas de dinheiro para liderar o setor de IA em rápido desenvolvimento.

'Sim, eu sou um humano': a detecção de bots não está mais funcionando

TX, 25/12/2024 

Por Irfan Mehmood 

Então só espere até que os agentes de IA apareçam.

Você está atrasado no aeroporto e precisa acessar sua conta urgentemente, apenas para ser recebido por um desses testes frustrantes — "Selecione todas as imagens com semáforos" ou "Digite as letras que você vê nesta caixa". Você aperta os olhos, você adivinha, mas de alguma forma você está errado. Você completa outro teste, mas ainda assim o site não está satisfeito.

"Seu voo está embarcando agora", o alto-falante anuncia enquanto o site lhe dá mais um quebra-cabeça. Você xinga a tela, fecha seu laptop e corre em direção ao portão.

Um sistema de IA alcançou nível humano em um teste de "inteligência geral"—veja o que isso significa

TX, 24/12/2024 

Por Michael Timothy

Um novo modelo de inteligência artificial (IA) atingiu recentemente resultados em nível humano em um teste projetado para medir "inteligência geral".  

Em 20 de dezembro, o sistema o3 da OpenAI obteve 85% no benchmark ARC-AGI, superando em muito o melhor desempenho anterior de IA, que era de 55%, e igualando a pontuação média humana. Ele também teve um bom desempenho em um teste de matemática extremamente difícil. 

CEO Diz Que Não Contratou Ninguém em Um Ano Enquanto Substitui Trabalhadores Humanos por IA

TB, 14/12/2024 

Por Noor Al-Sibai 

Isso está funcionando bem até demais para ser confortável.  

Ganhos e Perdas  

O chefe da empresa de "compre agora, pague depois" Klarna está se gabando de que a inteligência artificial começou a substituir com sucesso sua força de trabalho humana.  

Em uma entrevista à Bloomberg, o CEO e fundador da Klarna, Sebastian Siemiatkowski, afirmou que não contratou nenhum novo funcionário humano no último ano, em meio à iniciativa da empresa de adotar a IA.  

IA agora pode criar uma réplica da sua personalidade

MITTR, 20/11/2024 

Por James O'Donnell

Uma entrevista de duas horas é suficiente para capturar com precisão seus valores e preferências, de acordo com uma nova pesquisa da Stanford e do Google DeepMind.

Imagine sentar-se com um modelo de IA para uma entrevista falada de duas horas. Uma voz amigável guia você através de uma conversa que abrange sua infância, memórias formativas, carreira e suas opiniões sobre política de imigração. Não muito tempo depois, uma réplica virtual sua é capaz de incorporar seus valores e preferências com precisão impressionante.

Isso agora é possível, de acordo com um novo artigo de uma equipe que inclui pesquisadores da Stanford e do Google DeepMind, publicado no arXiv e ainda não revisado por pares.

OpenAI fecha acordo com contratante militar para fornecer IA para drones de ataque

TB, 06/12/2024 

Por Noor Al-Sibai

Dias de Drones  

A OpenAI firmou parceria com uma contratante de defesa que fabrica drones assassinos em enxame. O que poderia dar errado?  

Em um comunicado anunciando a parceria com a Anduril — empresa cofundada por Palmer Luckey, da Oculus VR, cujo nome é inspirado na espada brilhante entregue a Aragorn pelos Elfos em "O Senhor dos Anéis" — o CEO da OpenAI, Sam Altman, destacou a importância dos drones para a democracia.  

Meta agora permite que agências militares acessem seu software de IA, levantando dilemas morais para todos os usuários

TX, 12/11/2024 

Por Zena Assad 

A gigante tecnológica Meta anunciou que disponibilizará seus modelos de inteligência artificial (IA) generativa para o governo dos Estados Unidos, em uma decisão controversa que levanta um dilema moral para todos que utilizam o software.

Na semana passada, a Meta revelou que disponibilizará os modelos, conhecidos como Llama, para agências governamentais, “incluindo aquelas que trabalham em aplicações de defesa e segurança nacional, e parceiros do setor privado que apoiam esse trabalho”.

A Startup de IA Anthropic, que Sempre Fala Sobre Como É Ética, Acabou de Fazer Parceria com a Palantir

TB, 08/11/2024 

Por Victor Tangermann

Segurança em Terceiro Lugar

Anthropic, a empresa de IA que se apresenta como uma alternativa focada em segurança em relação a outras empresas de IA, como a OpenAI — da qual recrutou muitos executivos — fez parceria com a obscura contratante de defesa Palantir.

A empresa de IA também está se unindo à Amazon Web Services para levar seu chatbot de IA, Claude, às agências de inteligência e defesa dos EUA, uma aliança que parece contradizer a alegação da Anthropic de priorizar "segurança nas fronteiras da tecnologia".

Grupo de IA ‘Unrestricted’ Nous Research Lança Primeiro Chatbot

VB, 07/11/2024 

Por Carl Frazen 

Nous Research, o grupo de pesquisa em IA dedicado a criar modelos de IA “personalizados e sem restrições” como uma alternativa a empresas mais corporativas como OpenAI, Anthropic, Google, Meta e outras, já havia lançado vários modelos de código aberto da sua família Hermes, além de novos métodos mais eficientes de treinamento de IA.

Mas, até hoje, se pesquisadores e usuários quisessem realmente usar esses modelos, precisavam baixar e rodar o código em suas próprias máquinas — uma tarefa demorada, complexa e potencialmente cara — ou utilizá-los em sites parceiros.

Universal fecha acordo para uso de dados em treinamento de IA, mas continua processando empresas de IA por uso indevido

VB, 28/10/2024 

Por Emilia David 

A Universal Music Group (UMG), uma das maiores gravadoras do mundo, tem sido vocal sobre o impacto da IA na indústria musical, indo até a processar empresas de IA.

Mesmo assim, a UMG quer que seus dados ajudem a treinar IA generativa, desde que controle quem pode usar seus direitos autorais e criar modelos de IA.

A UMG anunciou que trabalhará com a empresa de IA Klay Vision para ajudar a treinar modelos de música gerada por IA de forma "ética e plenamente respeitosa com os direitos autorais". O modelo ajudará a criar músicas geradas por IA disponíveis comercialmente, incluindo proteções para os direitos de imagem dos criadores humanos.

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

Amanhecer dos Agentes: Nova IA Claude pode assumir o controle do seu computador

NA, 22/10/2024 

Por Loz Blain 

A próxima onda de modelos de IA revolucionários está prestes a chegar – modelos no estilo "agente", capazes de assumir tarefas e trabalhos inteiros com total autonomia. O mais novo modelo de IA da Anthropic nos dá uma prévia, assumindo o controle completo do seu computador.

Se você ainda não se deparou com a ideia de um agente de IA – ou se vê Modelos de Linguagem Natural (LLMs) como o Claude e o GPT principalmente como serviços de bate-papo, o CEO da OpenAI, Sam Altman, pode ajudar a colocar as coisas em perspectiva. No breve vídeo abaixo, Altman explica os cinco níveis de IA conforme sua empresa os enxerga.

In a recent interview with T-Mobile, Sam Altman compared o1’s current state to the ‘GPT-2 stage’ of reasoning models

He also revealed that the development of o1 unlocks a much quicker path to fully capable AI agents

Hear it from the man himself:pic.twitter.com/jQ13JJOaad

— Rowan Cheung (@rowancheung) September 20, 2024

Microsoft introduz agentes autônomos de IA

TX, 21/10/2024 

Nesta segunda-feira, a Microsoft anunciou que estava aprimorando suas ofertas de IA com novas capacidades de agentes autônomos, à medida que a gigante da tecnologia busca acelerar a adoção empresarial de inteligência artificial.

Os agentes de IA são programas especializados projetados para realizar tarefas rotineiras de forma autônoma, como filtrar leads de vendas ou lidar com consultas de atendimento ao cliente.

Os agentes de IA se tornaram a nova palavra da moda entre as grandes empresas de software, que estão investindo bilhões em modelos de IA poderosos, acreditando que eles moldarão o futuro da computação.

Casa Branca Pressiona por Colaboração com Grandes Empresas de Tecnologia em IA “Segura”

RTN, 16/09/2024 

Por Dan Frieth 

Na quinta-feira, uma reunião crucial na Casa Branca reuniu líderes de grandes corporações de tecnologia, incluindo OpenAI, Anthropic, Nvidia, Microsoft, Google e Amazon, juntamente com executivos de empresas americanas de energia e serviços públicos. Embora as discussões tenham oficialmente se concentrado nas demandas energéticas do setor de inteligência artificial em rápida evolução, o foco subjacente foi cada vez mais voltado para o desenvolvimento de uma IA “segura” e “responsável” — um tema que gerou considerável debate sobre quem tem o poder de definir exatamente o que é seguro e responsável.

A versão mais recente do ChatGPT tem um recurso que você vai adorar — e isso é preocupante

TX, 12/09/2024 

Por Rob Brooks 

Se você é um assinante pago do ChatGPT, pode ter notado que o modelo de linguagem de inteligência artificial (IA) recentemente começou a soar mais humano quando você tem interações de áudio com ele.

Isso acontece porque a empresa por trás do modelo de linguagem, a OpenAI, está atualmente realizando um piloto limitado de um novo recurso conhecido como "modo de voz avançado".

A OpenAI diz que esse novo modo "apresenta conversas mais naturais e em tempo real, que captam e respondem com emoção e sinais não verbais". A empresa planeja disponibilizar o modo de voz avançado para todos os assinantes pagos do ChatGPT nos próximos meses.

A mais recente "solução" das Big Tech para o pânico em torno da IA é promover a Identidade Digital

RTN, 09/09/2024 

Por Didi Rankovic 

Um artigo de pesquisa, escrito pela Microsoft, OpenAI e uma série de universidades influentes, propõe o desenvolvimento de "credenciais de personalidade" (PHCs).

É notável pelo fato de que as mesmas empresas que estão desenvolvendo e vendendo modelos de IA potencialmente "enganosos" estão agora propondo uma "solução" bastante drástica: uma forma de identidade digital.

O objetivo seria evitar enganos, identificando as pessoas que criam conteúdo na internet como "reais", em contraste com o conteúdo gerado por IA. E o artigo admite livremente que a privacidade não está incluída.

Autoridades investigam IA concorrendo à prefeitura em Wyoming

TB, 13/06/2024 

Por Maggie Harrison

Crown VIC

Um chatbot de IA chamado VIC, ou Cidadão Virtualmente Integrado, está tentando entrar na cédula na eleição para prefeito deste ano na cidade de Cheyenne, capital de Wyoming. Mas, conforme relatado pela Wired, o secretário de estado de Wyoming está questionando a legitimidade do VIC como candidato — e agora, uma investigação está em andamento.

De acordo com a Wired, o VIC, que foi construído com base no GPT-4 da OpenAI e treinado com milhares de documentos obtidos em reuniões do conselho de Cheyenne, foi criado por Victor Miller, residente de Cheyenne e trabalhador de biblioteca. Caso o VIC vença, Miller disse à Wired que ele servirá como o "fantoche de carne" do bot, operando a IA, mas permitindo que ela tome decisões para a cidade capital.

OpenAI adiciona ex-diretor da agência de inteligência dos EUA ao seu conselho administrativo

PP, 14/06/2024 

Por Oriana Rivas 

O general aposentado Paul Nakasone é um dos pesos pesados na guerra cibernética. Foi diretor da NSA entre 2018 e fevereiro deste ano, e para alguns isso significa que o governo dos EUA poderia "ter controle operacional total e influência" sobre a empresa.

Sam Altman, o CEO da OpenAI, diz estar "animado" por dar as boas-vindas a Paul Nakasone ao conselho administrativo da empresa que desenvolve projetos de inteligência artificial. Mas esse sentimento não é compartilhado por todos que receberam a notícia. O motivo é que o general aposentado atuou como diretor da Agência de Segurança Nacional dos Estados Unidos (NSA, na sigla em inglês).