O que é Modelo de Linguagem Grande (LLM)?

TechTarget



Por Sean Michael Kerner

Um grande modelo de linguagem (LLM) é um tipo de algoritmo de inteligência artificial (IA) que usa técnicas de aprendizado profundo e conjuntos de dados massivamente grandes para entender, resumir, gerar e prever novos conteúdos. O termo IA generativa também está intimamente ligado aos LLMs, que são, na verdade, um tipo de IA generativa que foi arquitetada especificamente para ajudar a gerar conteúdo baseado em texto.

Ao longo de milênios, os humanos desenvolveram línguas faladas para se comunicar. A linguagem está no centro de todas as formas de comunicação humana e tecnológica; fornece as palavras, a semântica e a gramática necessárias para transmitir ideias e conceitos. No mundo da IA, um modelo de linguagem serve a um propósito semelhante, fornecendo uma base para comunicar e gerar novos conceitos.

Como os agentes de IA já estão simulando a civilização humana

VB, 11/09/2023 

Por Ben Dickson 

Modelos de grande linguagem (LLM) de inteligência artificial (IA), como o sucesso GPT-3, 3.5 e 4 da OpenAI, codificam uma riqueza de informações sobre como vivemos, nos comunicamos e nos comportamos, e os pesquisadores estão constantemente encontrando novas maneiras de colocar isso como conhecimento para usar.

Um estudo recente conduzido por pesquisadores da Universidade de Stanford demonstrou que, com o design correto, os LLMs podem ser aproveitados para simular o comportamento humano de uma maneira dinâmica e convincentemente realista.

ChatGPT projeta seu primeiro robô

TX, 07/06/2023 

Poemas, ensaios e até livros – há algo que a plataforma de IA aberta ChatGPT não possa lidar? Esses novos desenvolvimentos de IA inspiraram pesquisadores da TU Delft e da universidade técnica suíça EPFL a se aprofundarem um pouco mais: por exemplo, o ChatGPT também pode projetar um robô? E isso é bom para o processo de design ou há riscos? Os pesquisadores publicaram suas descobertas na Nature Machine Intelligence.

Quais são os maiores desafios futuros para a humanidade? Esta foi a primeira pergunta que Cosimo Della Santina, professor assistente, e o estudante de doutorado Francesco Stella, ambos da TU Delft, e Josie Hughes, da EPFL, fizeram ao ChatGPT.

Pesquisas em teoria dos jogos mostram que a IA pode evoluir para personalidades mais egoístas ou cooperativas

TX, 04/04/2024 

Pesquisadores no Japão desenvolveram efetivamente uma variedade diversificada de traços de personalidade em IA de diálogo, usando um modelo de linguagem em grande escala (LLM, do inglês Large Language Model). Utilizando o dilema do prisioneiro da teoria dos jogos, o Professor Takaya Arita e o Professor Associado Reiji Suzuki da equipe da Escola de Pós-Graduação em Informática da Universidade de Nagoya, criaram uma estrutura para evoluir agentes de IA que imitam o comportamento humano alternando entre ações egoístas e cooperativas, adaptando suas estratégias por meio de processos evolutivos. Seus achados foram publicados na revista Scientific Reports.

IAs podem armazenar mensagens secretas em seus textos que são imperceptíveis para os humanos

TB, 14/11/2023 

Por Maggie Harrison 

Tinta invisível

Exatamente o que precisávamos: IA dominando sua própria versão imperceptível de tinta invisível.

Como relata VentureBeat, um estudo recente – embora ainda a ser revisado por pares – conduzido pelo grupo de pesquisa de alinhamento de IA Redwood Research descobriu que grandes modelos de linguagem (LLMs) são incrivelmente bons em um tipo de esteganografia apelidada de "raciocínio codificado". Basicamente, diz o estudo, os LLMs podem ser treinados para usar mensagens secretas para obscurecer os seus processos de pensamento passo a passo, uma prática que, curiosamente, poderia tornar os seus resultados mais precisos – ao mesmo tempo que os torna mais enganadores.

Segundo estudo grandes modelos de linguagem podem enganar estrategicamente usuários quando estiverem sobrecarregados

TX, 12/12/2023 

Por Ingrid Fadelli 

As ferramentas de inteligência artificial (IA) são agora amplamente utilizadas em todo o mundo, auxiliando engenheiros e usuários não especialistas em uma ampla gama de tarefas. Avaliar a segurança e a fiabilidade destas ferramentas é, portanto, da maior importância, pois poderá, em última análise, ajudar a regular melhor a sua utilização.

Pesquisadores da Apollo Research, organização criada com o objetivo de avaliar a segurança de sistemas de IA, decidiram recentemente avaliar as respostas fornecidas por grandes modelos de linguagem (LLMs) em um cenário onde são colocados sob pressão. Suas descobertas, publicadas no servidor de pré-impressão arXiv, sugerem que esses modelos, o mais famoso dos quais é o ChatGPT da OpenAI, poderiam, em alguns casos, enganar estrategicamente seus usuários.

Aparentemente a Meta está desenvolvendo uma nova IA poderosa e secreta

TB, 11/09/2023 

Por Maggie Harrison 

Segunda onda

À medida que a OpenAI e o Google avançam na corrida contínua da IA ​​​​no Vale do Silício, a Meta – sim, a empresa que se renomeou há apenas três anos para apostar tudo na mania tecnológica anterior do metaverso – parece mais determinada do que nunca em alcançá-la.

De acordo com novas reportagens do The Wall Street Journal, a Meta está desenvolvendo secretamente um novo e poderoso modelo de IA projetado para competir com o GPT-4 da OpenAI, a iteração mais avançada do modelo de linguagem grande (LLM) da empresa rival de IA até o momento.

Meta lança ferramentas comerciais de IA para rivalizar com Google e OpenAI

ZH, 13/07/2023 

Por Tyler Durden 

Fontes próximas à Meta disseram que a empresa planeja fazer uma versão comercial de seu modelo de IA para ser mais amplamente disponível e personalizável.

A Meta planeja lançar uma versão comercial de seu modelo de inteligência artificial (IA) com o objetivo de alcançar um uso mais amplo, de acordo com um relatório do Financial Times.

O relatório continha detalhes de fontes próximas à Meta, que disseram que embora a empresa tenha lançado seu próprio modo de linguagem grande (LLM) para pesquisadores e acadêmicos chamado LLaMa no início deste ano, a nova versão estará mais amplamente disponível e pode ser personalizada pelas empresas.

Chatbots estão desenvolvendo uma compreensão do mundo, afirmam cientistas

TB, 24/01/2024

Por Noor Al-Sibai

Grandes Modelos de Pensamento

A inteligência artificial ainda está, segundo quase todos os relatos, longe de alcançar a inteligência humana –, mas alguns pesquisadores estão agora sugerindo que a tecnologia pode compreender mais do que percebemos.

Conforme relata a Quanta, um pesquisador de Princeton e um cientista do Google DeepMind encontraram evidências de que, à medida que os grandes modelos de linguagem (LLMs) ficam maiores, começam a produzir resultados que quase certamente não faziam parte de seus dados de treinamento.

Chefe de IA do Google diz que o novo sistema da companhia será mais poderoso do que a OpenAI

TB, 27/06/2023 

Por Maggie Harrison 

Gêmeos

De acordo com o CEO do Google DeepMind, Demis Hassibis, o Google tem um modelo de linguagem grande (LLM) ultra poderoso a caminho - e pode explodir os sistemas existentes da OpenAI, como os que alimentam o ChatGPT.

Em uma nova entrevista com a Wired, Hassibis explicou que a nova IA apelidada de Gemini é construída sobre os recursos do AlphaGo do Google, um sistema de aprendizado de máquina construído pela DeepMind que se tornou o primeiro modelo a derrotar um humano no jogo incrivelmente complexo Go em 2016.

Claude AI, rival do ChatGPT, pode compreender um livro inteiro em segundos

IE, 15/05/2023 

Por Ameya Pleja 

Os recursos do ChatGPT em comparação são minúsculos mesmo ao usar o GPT-4.

Claude AI, o rival do ChatGPT da Anthropic, agora pode compreender um livro contendo cerca de 75.000 palavras em questão de segundos. Este é um grande salto para os chatbots, à medida que as empresas buscam tecnologia que possa produzir grandes informações rapidamente.

Desde o lançamento do ChatGPT, também vimos empresas como Bloomberg e JP Morgan Chase buscarem aproveitar o poder da IA para entender melhor o mundo das finanças. Embora esse processo tenha levado pelo menos alguns meses, o Anthropic, com sua IA de Claude, pode reduzir o tempo necessário para apenas alguns segundos.

OpenAI e Associated Press (AP) anunciam parceria para treinar IA em artigos de notícias

VB, 13/07/2023 

Por Sean Michael Kerner 

Em um acordo histórico anunciado hoje, a pioneira em IA generativa OpenAI está fazendo parceria com a Associated Press (AP), um dos serviços de notícias mais antigos e lidos do mundo, estabelecido em 1846. 

A parceria é a primeira desse tipo entre um grande fornecedor de IA e um meio de comunicação e, de certa forma, é o encontro de dois gigantes de seus respectivos setores. Ele verá o conteúdo de texto de licenciamento OpenAI dos arquivos AP que serão usados ​​para treinar modelos de linguagem grandes (LLMs). Em troca, a AP fará uso da experiência e tecnologia da OpenAI – embora a empresa de mídia enfatize claramente em um comunicado que não está usando IA generativa para ajudar a escrever notícias reais.

O Google está abrindo o acesso ao seu chatbot Bard AI hoje

EDT, 21/03/2023 

Por Cherlynn Low 

Aqueles nos EUA e no Reino Unido podem se inscrever hoje.

Desde o lançamento de sua IA de conversação Bard em fevereiro, o Google tem trabalhado para melhorar as respostas do chatbot, depois de espalhar desinformação em sua estreia no Twitter. Mais recentemente, vimos a empresa adicionar recursos generativos de IA a praticamente todo o seu conjunto de serviços, enquanto o acesso ao chatbot Bard permaneceu exclusivo para alguns. Vimos alguns usuários do Pixel receberem convites para testar o bot do Google ontem e hoje a empresa disse que está "começando a abrir o acesso ao Bard".

Pesquisadores dizem que os chatbots podem descobrir muito mais sobre o usuário do que pensam

TB, 17/10/2023 

Por Noor Al-Sibai 

O contexto é importante

Parece que os chatbots de IA ficaram ainda mais assustadores, graças a novas pesquisas que sugerem que os grandes modelos de linguagem (LLMs) por trás deles podem inferir coisas sobre você com base em pequenas pistas de contexto fornecidas.

Em entrevistas à Wired, cientistas da computação da escola estatal suíça de ciências ETH Zurich descreveram como a sua nova pesquisa, que ainda não foi revisada por pares, pode constituir uma nova fronteira nas preocupações com a privacidade na Internet.

Amazon lança novo serviço Bedrock AI para enfrentar Google e OpenAI

CTPH, 13/04/2023 

Por Tristan Greene 

A AWS está lançando o Bedrock, um serviço de IA que permitirá aos usuários criar modelos generativos do AI21 Labs, Anthropic, Stability AI e Amazon.

Modelos de inteligência artificial generativa, como o ChatGPT, conquistaram o mundo da tecnologia, pois ameaçam permear o mainstream. Com o anúncio de Bedrock, fica claro que a Amazon está pronta para apostar tudo, assim como os concorrentes de Big Tech, Microsoft e Google.

A Amazon investe US$ 4 bilhões em startup de IA Anthropic

CTPH, 25/09/2023 

Por Savannah Fortis 

A Amazon concordou em investir US$ 4 bilhões na startup de inteligência artificial Antrhopic para desenvolver modelos básicos de alto desempenho.

A Amazon e a startup de inteligência artificial (IA) Anthropic anunciaram um novo acordo de investimento para auxiliar na pesquisa e desenvolvimento de novos modelos de fundação de alto desempenho. 

Em uma postagem no X (antigo Twitter), a Anthropic revelou que a Amazon investirá US$ 4 bilhões em seu trabalho e lhe dará acesso aos chips Amazon Web Services Trainium e Inferentia.

O forte preconceito político de esquerda do ChatGPT é desmascarado por novo estudo

SCTD, 11/09/2023 

Um estudo de pesquisa identifica um viés de esquerda significativo na plataforma de IA ChatGPT, inclinada para os democratas dos EUA, o Partido Trabalhista do Reino Unido e o presidente do Brasil, Lula da Silva.

A plataforma de inteligência artificial ChatGPT mostra um viés de esquerda significativo e sistêmico, de acordo com um novo estudo da Universidade de East Anglia (UEA).

A equipe de pesquisadores do Reino Unido e do Brasil desenvolveu um novo método rigoroso para verificar preconceitos políticos.

A gigante da tecnologia Baidu leva o Bing Chat com o Ernie-bot alimentado por AI Mate

IE, 13/05/2023 

Por Amal jos Chacko 

O chatbot de IA da Baidu evita uma resposta direta a perguntas políticas, em vez de responder: "O conteúdo viola regras que não responderá".

Com os usuários migrando para experimentar sites com integrações de Inteligência Artificial e, principalmente, aqueles com chatbots, as empresas têm lutado para atualizar seus serviços.

O gigante chinês da Internet e Inteligência Artificial Baidu juntou-se agora a empresas como Google e Microsoft com a incorporação do seu chatbot "AI Mate" ao seu principal produto de pesquisa online, segundo noticiou o South China Morning Post.

Cientistas usam interações de usuários reais com modelos LLMs para estudar o seu comportamento

TX, 16/10/2023 

Por Bob Yirka 

Usando um conjunto de dados em grande escala contendo um milhão de conversas do mundo real para estudar como as pessoas interagem com LLMs

Uma equipe de cientistas da computação da Universidade da Califórnia em Berkeley, trabalhando com um colega da Universidade da Califórnia em San Diego e outro da Universidade Carnegie Mellon, criou um conjunto de dados em grande escala de 1 milhão de conversas do mundo real para estudar como as pessoas interagem com modelos de linguagem grande (LLMs). Eles publicaram um artigo descrevendo seu trabalho e descobertas no servidor de pré-impressão arXiv.

A Microsoft está colocando IA generativa nos carros

TB, 19/12/2023 

Por Noor Al-Sibai 

Conversa sobre carro

Lembra daqueles monitores GPS falantes do início a meados dos anos 2000? Eles estão de volta com força total e em breve serão habilitados para IA, embora não esteja claro quem pediu isso.

Num comunicado de imprensa, a empresa de GPS TomTom anunciou que está se unindo à Microsoft para equipar os carros com um assistente de IA generativo chamado “Tommy” que, por algum motivo, permitirá que as pessoas conversem com seus carros.