O que é Modelo de Linguagem Grande (LLM)?

TechTarget



Por Sean Michael Kerner

Um grande modelo de linguagem (LLM) é um tipo de algoritmo de inteligência artificial (IA) que usa técnicas de aprendizado profundo e conjuntos de dados massivamente grandes para entender, resumir, gerar e prever novos conteúdos. O termo IA generativa também está intimamente ligado aos LLMs, que são, na verdade, um tipo de IA generativa que foi arquitetada especificamente para ajudar a gerar conteúdo baseado em texto.

Ao longo de milênios, os humanos desenvolveram línguas faladas para se comunicar. A linguagem está no centro de todas as formas de comunicação humana e tecnológica; fornece as palavras, a semântica e a gramática necessárias para transmitir ideias e conceitos. No mundo da IA, um modelo de linguagem serve a um propósito semelhante, fornecendo uma base para comunicar e gerar novos conceitos.

Amazon lança um novo modelo de linguagem que supera o GPT3.5

AI, 13/02/2023 

Por Preethi Cheguri 

A Amazon lançou um novo modelo de linguagem para acompanhar o popular chatbot ChatGPT

Há pouco mais de dois meses, a OpenAI disponibilizou o ChatGPT para o público em geral, colocando o chatbot com inteligência artificial no centro dos assuntos populares e iniciando discussões sobre como o novo modelo de linguagem pode mudar negócios, educação e outras áreas. Então, os gigantes da internet, como a chinesa Baidu e o Google, lançaram seus chatbots para demonstrar ao público que sua chamada “IA generativa” (tecnologia que pode criar texto conversacional, visuais e muito mais) também estava pronta para uso geral. Recentemente, a Amazon lançou um novo modelo de linguagem para superar GPT3.5.

Novo algoritmo descobre linguagem apenas assistindo a vídeos

TX, 11/06/2024 

Por Rachel Gordon 

Mark Hamilton, um estudante de doutorado em engenharia elétrica e ciência da computação do MIT e afiliado ao Laboratório de Ciência da Computação e Inteligência Artificial (CSAIL) do MIT, quer usar máquinas para entender como os animais se comunicam. Para isso, ele decidiu primeiro criar um sistema que possa aprender a linguagem humana "do zero".

"Curiosamente, o momento chave de inspiração veio do filme 'A Marcha dos Pinguins'. Há uma cena onde um pinguim cai ao atravessar o gelo e solta um gemido enquanto se levanta. Quando você assiste, é quase óbvio que esse gemido está substituindo uma palavra de quatro letras. Esse foi o momento em que pensamos, talvez precisemos usar áudio e vídeo para aprender a linguagem", diz Hamilton. "Será que há uma maneira de deixar um algoritmo assistir TV o dia todo e, a partir disso, descobrir sobre o que estamos falando?"

Artigo da Microsoft afirma que GPT-4 tem bom senso e pode raciocinar como humanos

IE, 17/05/2023  

Por Sejal Sharma 

Pesquisadores da Microsoft dizem que o GPT-4 mostra sinais de inteligência artificial geral (AGI).

O avanço mais notável na inteligência artificial foi o advento de modelos de linguagem grande (LLMs), que são treinados em grandes quantidades de dados e podem prever a próxima palavra em uma sentença parcial. Mas agora os cientistas estão dizendo que esses novos LLMs podem ser treinados para raciocinar e usar o bom senso como os humanos.

Alibaba começa a lançar sua tecnologia no estilo ChatGPT enquanto corrida de IA na China esquenta

CNBC, 01/06/2023 

Por Arjun Kharpal 

O Alibaba começou na quinta-feira a lançar sua tecnologia no estilo ChatGPT, enquanto gigantes chineses da tecnologia buscam assumir a liderança na corrida de inteligência artificial do país.

O ChatGPT, desenvolvido pela empresa norte-americana OpenAI, é um chatbot de IA que pode responder a perguntas quando solicitado por um usuário. Tornou-se viral, despertando enorme interesse na área de IA generativa, a tecnologia que sustenta o ChatGPT.

No mês passado, o Alibaba revelou o Tongyi Qianwen, seu grande modelo de linguagem – um sistema que é treinado em grandes quantidades de dados para reconhecer e gerar conteúdo.

Robôs alimentados por IA torna a comunicação com humanos mais perfeita

TX, 06/11/2023 

Por Juan Siliezar 

O robô preto e amarelo, que deveria se assemelhar a um cachorro grande, ficou esperando instruções. Quando chegaram, as instruções não estavam em código, mas sim em inglês simples: "Visite a escrivaninha de madeira exatamente duas vezes; além disso, não vá até a escrivaninha de madeira antes da estante."

Quatro pernas metálicas entraram em ação. O robô foi de onde estava na sala até uma estante próxima e então, após uma breve pausa, foi até a mesa de madeira designada antes de sair e retornar para uma segunda visita para satisfazer o comando.

CEO da OpenAI diz que o GPT-5 está oficialmente chegando em breve

TB, 15/11/2023 

Por Victor Tangermann

Grande engano AI 5

No início deste mês, o fabricante do ChatGPT OpenAI anunciou uma nova versão de seu modelo de linguagem grande chamado GPT-4 Turbo, uma continuação acelerada e um pouco mais econômica do sucesso de bilheteria da empresa GPT-4.

Desapontado? Justo. Mas logo em seguida, o CEO da OpenAI, Sam Altman, também revelou em uma entrevista ao Financial Times esta semana que algo potencialmente muito mais transformador também está em andamento: GPT-5.

Aparentemente a Meta está desenvolvendo uma nova IA poderosa e secreta

TB, 11/09/2023 

Por Maggie Harrison 

Segunda onda

À medida que a OpenAI e o Google avançam na corrida contínua da IA ​​​​no Vale do Silício, a Meta – sim, a empresa que se renomeou há apenas três anos para apostar tudo na mania tecnológica anterior do metaverso – parece mais determinada do que nunca em alcançá-la.

De acordo com novas reportagens do The Wall Street Journal, a Meta está desenvolvendo secretamente um novo e poderoso modelo de IA projetado para competir com o GPT-4 da OpenAI, a iteração mais avançada do modelo de linguagem grande (LLM) da empresa rival de IA até o momento.

A IA está mais perto do que nunca de passar no teste de Turing para “inteligência”. O que acontece quando isso acontecer?

TX, 17/10/2023 

Por Simon Goldstein 

Em 1950, o cientista da computação britânico Alan Turing propôs um método experimental para responder à pergunta: as máquinas podem pensar? Ele sugeriu que se um ser humano não conseguisse dizer se estava falando com uma máquina artificialmente inteligente (IA) ou com outro ser humano após cinco minutos de questionamento, isso demonstraria que a IA tem inteligência semelhante à humana.

Embora os sistemas de IA tenham permanecido longe de passar no teste de Turing durante a sua vida, ele especulou que "[...] dentro de cerca de 50 anos será possível programar computadores [...] para fazê-los jogar o jogo da imitação tão bem que um interrogador médio irá não terá mais de 70% de chance de fazer a identificação correta após cinco minutos de interrogatório."

O Google desenvolveu um programa que ajuda os robôs a codificar

AI, 07/11/2022 

Por Arti 

O Google desenvolveu o Code as Policies, um programa que ajudará os robôs a começar a codificar

O que torna a programação difícil de aprender? A principal razão pela qual a programação é considerada difícil de aprender é principalmente devido à complexidade das instruções que os computadores compreendem. Você não pode dar instruções aos computadores em inglês ou em qualquer outro idioma humano. Mas os pesquisadores de robótica do Google estão explorando uma maneira de consertar isso fazendo com que os robôs comecem a codificar. Sim, você leu certo, o Google desenvolveu um programa robótico (Code as Policies) que pode escrever seu próprio código de programação baseado em instruções de linguagem natural. Em vez de ter que mergulhar nos arquivos de configuração de um robô para mudar block_target_color de #FF0000 para #FFFF00, você poderia simplesmente digitar “pegar o bloco amarelo” e o robô faria o resto.

ChatGPT está mudando a forma como escrevemos. Aqui está como—e por que isso é um problema

TX, 26/09/2024 

Por Ritesh Chugh

Você notou certas palavras e frases surgindo em todos os lugares ultimamente?

Expressões como "mergulhar em" e "navegar pela paisagem" parecem estar presentes em tudo, desde postagens em redes sociais até artigos de notícias e publicações acadêmicas. Elas podem soar sofisticadas, mas seu uso excessivo pode fazer um texto parecer monótono e repetitivo.

Essa tendência pode estar ligada ao aumento do uso de ferramentas de inteligência artificial (IA) generativa, como o ChatGPT e outros modelos de linguagem de grande porte (LLMs). Essas ferramentas são projetadas para facilitar a escrita, oferecendo sugestões baseadas em padrões no texto com o qual foram treinadas.

Diferença entre IA conversacional e IA generativa

AI, 26/01/2023 

Por Rangoli 

Saiba onde a IA conversacional e generativa estão no ano de 2023

Conversational AI (IA Conversacional) é a inteligência artificial (IA) que pode se envolver em conversas e se refere a ferramentas que permitem aos usuários se comunicar com assistentes virtuais ou chatbots. Eles imitam as interações humanas identificando entradas de fala e texto e traduzindo seu conteúdo para outros idiomas usando grandes quantidades de dados, aprendizado de máquina e processamento de linguagem natural. Enquanto a IA generativa costuma usar técnicas de aprendizado profundo, como redes adversárias generativas (GANs), para identificar padrões e recursos em um determinado conjunto de dados antes de criar novos dados a partir dos dados de entrada.

A IA de fala de código aberto da Meta reconhece mais de 4.000 idiomas falados

EDT, 22/05/2023 

Por Will Shanklin 

Ela também pode produzir conversão de texto em fala em mais de 1.100 idiomas.

A Meta criou um modelo de linguagem de IA que (em uma mudança de ritmo refrescante) não é um clone do ChatGPT. O projeto Massively Multilingual Speech (MMS) da empresa pode reconhecer mais de 4.000 idiomas falados e produzir fala (text-to-speech) em mais de 1.100. Como a maioria de seus outros projetos de IA anunciados publicamente, a Meta está abrindo o MMS hoje para ajudar a preservar a diversidade linguística e incentivar os pesquisadores a construir sobre sua fundação. "Hoje, estamos compartilhando publicamente nossos modelos e código para que outros na comunidade de pesquisa possam desenvolver nosso trabalho", escreveu a empresa. "Através deste trabalho, esperamos fazer uma pequena contribuição para preservar a incrível diversidade linguística do mundo."

CEO da Nvídia diz que a IA preencherá automaticamente as imagens 3D do Metaverso

VB, 23/09/2022 

Por Dean Takahashi 

São necessários tipos de IA para criar um mundo virtual. O CEO da Nvidia, Jensen Huang, disse esta semana durante uma sessão de perguntas e respostas no evento online GTC22 que a IA preencherá automaticamente as imagens 3D do metaverso.

Ele acredita que a IA dará o primeiro passo na criação dos objetos 3D que povoam os vastos mundos virtuais do metaverso – e então os criadores humanos assumirão o controle e os refinarão ao seu gosto. E embora essa seja uma afirmação muito grande sobre o quão inteligente a IA será, a Nvidia tem pesquisas para apoiá-la.

Facebook abriu a caixa de pandora da IA, alertam especialistas

Feito com DALL-E 2

TB, 19/05/2023 

Por Maggie Harrison 

Abra o Gergelim!

A Meta está escancarando a corrida armamentista da IA. Literalmente.

De acordo com uma reportagem do The New York Times, o Facebook está dobrando sua decisão de tornar seu grande modelo de linguagem chamado LLaMA (Large Language Model Meta AI) – que compete com o GPT-4 da OpenAI – de código aberto.

"A plataforma que vencerá será a aberta", disse Yann LeCun, cientista-chefe de IA da Meta, ao NYT, acrescentando que acredita que manter modelos poderosos a portas fechadas é um "grande erro".

Claude AI, rival do ChatGPT, pode compreender um livro inteiro em segundos

IE, 15/05/2023 

Por Ameya Pleja 

Os recursos do ChatGPT em comparação são minúsculos mesmo ao usar o GPT-4.

Claude AI, o rival do ChatGPT da Anthropic, agora pode compreender um livro contendo cerca de 75.000 palavras em questão de segundos. Este é um grande salto para os chatbots, à medida que as empresas buscam tecnologia que possa produzir grandes informações rapidamente.

Desde o lançamento do ChatGPT, também vimos empresas como Bloomberg e JP Morgan Chase buscarem aproveitar o poder da IA para entender melhor o mundo das finanças. Embora esse processo tenha levado pelo menos alguns meses, o Anthropic, com sua IA de Claude, pode reduzir o tempo necessário para apenas alguns segundos.

Estudo mostra como grandes modelos de linguagem como o GPT-3 podem aprender uma nova tarefa com apenas alguns exemplos

TX, 07/02/2023 

Por Adam Zewe 

Grandes modelos de linguagem como o GPT-3 da OpenAI são redes neurais massivas que podem gerar texto semelhante ao humano, da poesia ao código de programação. Treinados usando dados da Internet, esses modelos de aprendizado de máquina pegam um pouco do texto de entrada e preveem o texto que provavelmente virá a seguir.

A IA 'ChaosGPT' instruída a 'destruir a humanidade, e 'estabelecer um domínio global

BTB, 11/04/2023 

Por Michael Foster

Uma implementação de terceiros do modelo de linguagem grande GPT-3.5 da OpenAI é instruída a “destruir a humanidade” e “causar caos e destruição”, entre outros objetivos nefastos.

ChaosGPT – uma “versão modificada” do projeto Auto-GPT de código aberto – é descrito em um vídeo do Youtube como uma “IA manipuladora destrutiva, sedenta de poder”, instruída a “destruir a humanidade”, “estabelecer o domínio global”, “causar caos e destruição”, “controlar a humanidade por meio da manipulação” e “alcançar a imortalidade”.

A versão mais recente do ChatGPT tem um recurso que você vai adorar — e isso é preocupante

TX, 12/09/2024 

Por Rob Brooks 

Se você é um assinante pago do ChatGPT, pode ter notado que o modelo de linguagem de inteligência artificial (IA) recentemente começou a soar mais humano quando você tem interações de áudio com ele.

Isso acontece porque a empresa por trás do modelo de linguagem, a OpenAI, está atualmente realizando um piloto limitado de um novo recurso conhecido como "modo de voz avançado".

A OpenAI diz que esse novo modo "apresenta conversas mais naturais e em tempo real, que captam e respondem com emoção e sinais não verbais". A empresa planeja disponibilizar o modo de voz avançado para todos os assinantes pagos do ChatGPT nos próximos meses.

Meta e Microsoft lançam modelo de IA de código aberto Llama 2

CTPH, 18/07/2023 

Por Brayden Lindrea 

O Llama 2 é treinado com 40% mais dados públicos e pode processar o dobro do contexto do Llama 1, de acordo com a Meta.

As grandes empresas de tecnologia Meta e Microsoft se uniram para lançar o Llama 2, um grande modelo de linguagem de código aberto da Meta que será apresentado no Windows da Microsoft e na plataforma de computação em nuvem Azure.

A dupla anunciou a colaboração em 18 de julho, dizendo que o Llama 2 foi disponibilizado gratuitamente para pesquisa e uso comercial, além de ser otimizado para rodar no Windows.