Saiba mais sobre LLMs, modelos PaLM e Vertex AI

Modelos de linguagem grandes (LLMs, na sigla em inglês) são modeloa de aprendizado profundo treinados com grandes quantidades de dados de texto. Os LLMs podem traduzir idiomas, resumir textos e complementar mecanismos de pesquisa e sistemas de recomendação. O PaLM 2 é o próximo LLM do Google baseado no legado de pesquisa em machine learning e IA responsável.

Os modelos do PaLM 2 se destacam em tarefas avançadas de raciocínio, classificação e resposta a perguntas, tradução e geração de linguagem natural. Seu tamanho grande permite que ele aprenda padrões e relacionamentos complexos no idioma e gere texto de alta qualidade para vários aplicativos. É por isso que os modelos PaLM 2 são chamados de modelos básicos.

Para usar os modelos do PaLM 2 na Vertex AI, o Google desenvolveu a API Vertex AI PaLM. Com a API Vertex AI PaLM, é possível testar, personalizar e implantar instâncias dos modelos para seus próprios aplicativos e ajustá-los usando seus próprios casos de uso específicos.

Para ver mais recursos de aprendizado, consulte o repositório do AI Generative no GitHub. Os cientistas de dados, desenvolvedores e mediadores de dados do Google gerenciam esse conteúdo.

Começar

Veja alguns notebooks, tutoriais e outros exemplos para ajudar você a começar. A Vertex AI oferece tutoriais do console do Google Cloud e tutoriais do notebook Jupyter que usam o SDK da Vertex AI para Python. É possível abrir um tutorial de notebook no Colab ou fazer o download do notebook para o ambiente de sua preferência.

Comece a usar a API Vertex AI PaLM e o SDK da Vertex AI para Python

Primeiros passos com a Vertex AI e o PaLM

Saiba como usar a API PaLM com o SDK da Vertex AI para Python. Ao final do notebook, você entenderá as diversas nuances dos parâmetros do modelo generativo, como temperature, top_k, top_p e como cada parâmetro afeta os resultados de saída.

Notebook do Jupyter: você pode executar este tutorial como um notebook do Jupyter.
Executar no Colab | Ver no GitHub

Primeiros passos com o Vertex AI Generative AI Studio

Logotipo do GenAI Studio

Use o Generative AI Studio por meio do Console do Google Cloud sem a necessidade da API ou do SDK da Vertex AI para Python.

Ver no GitHub

Práticas recomendadas para design rápido

Logotipo da Model Garden

Saiba como criar prompts para melhorar a qualidade das respostas do modelo. Este tutorial abrange os fundamentos da engenharia de solicitações, incluindo algumas práticas recomendadas.

Notebook do Jupyter: você pode executar este tutorial como um notebook do Jupyter.
Executar no Colab | Ver no GitHub

LangChain 🦜️🔗

O LangChain (em inglês) é um framework para desenvolvimento de aplicativos com tecnologia de LLMs, como os modelos PaLM. Use o LangChain para trazer dados externos, como seus arquivos, outros aplicativos e dados de API, para seus LLMs.

Para saber mais sobre o LangChain e como ele funciona com a Vertex AI, consulte a documentação oficial do LangChain e da Vertex AI.

API LangChain e Vertex AI PaLM

Usar LangChain

Neste tutorial, fornecemos uma introdução para entender os componentes do LangChain e alguns casos de uso comuns para trabalhar com o LangChain e a API Vertex AI PaLM. Veja alguns exemplos e demonstrações neste tutorial:

  • Como o LangChain e a API Vertex AI PaLM funcionam
  • Como resumir textos grandes
  • Como criar um modelo de perguntas/respostas baseado em recuperação de PDFs
  • Notebook do Jupyter: você pode executar este tutorial como um notebook do Jupyter.
    Executar no Colab | Ver no GitHub

    Resumo de texto de documentos grandes usando o LangChain

    Resumo de texto de documentos grandes usando o LangChain

    O resumo de texto é uma tarefa de processamento de linguagem natural (PLN) que cria um resumo conciso e informativo de um texto mais longo. Você pode usar LLMs para criar resumos de artigos de notícias, trabalhos de pesquisa, documentos técnicos e outros tipos de texto.

    Neste notebook, você usará o LangChain para aplicar estratégias de resumo. O notebook abrange vários exemplos de como resumir documentos grandes.

    Notebook do Jupyter: você pode executar este tutorial como um notebook do Jupyter.
    Executar no Colab | Ver no GitHub

    Responda a perguntas de documentos grandes com o LangChain

    Pergunta ao responder com documentos grandes usando o LangChain

    Este notebook usa LangChain com a API Vertex AI PaLM para criar um sistema de perguntas e respostas que extraia informações de documentos grandes.

    Notebook do Jupyter: você pode executar este tutorial como um notebook do Jupyter.
    Executar no Colab | Ver no GitHub

    Responda a perguntas de documentos com o LangChain e a Pesquisa de vetores

    Resumo de texto de documentos grandes com o LangChain

    Este notebook mostra como implementar um sistema de perguntas e respostas (QA, na sigla em inglês) que melhora uma resposta de LLM. Você aprende a aumentar o conhecimento com fontes de dados externas, como documentos e sites. Este notebook usa Vector Search, LangChain e API Vertex AI PaLM para criação de texto e incorporação. .

    Notebook do Jupyter: você pode executar este tutorial como um notebook do Jupyter.
    Executar no Colab | Ver no GitHub

    A seguir