Compila aplicaciones con tecnología LLM usando LangChain

En esta página, se explica cómo compilar aplicaciones con tecnología LLM usando LangChain. Las descripciones generales en esta página contienen vínculos a las guías de procedimiento en GitHub.

¿Qué es LangChain?

LangChain es un framework de organización de LLM que ayuda a los desarrolladores a compilar aplicaciones de IA generativa o flujos de trabajo de generación con recuperación aumentada (RAG). Proporciona la estructura, las herramientas y los componentes necesarios para optimizar flujos de trabajo complejos de LLM.

Para obtener más información sobre LangChain, consulta la página de Google LangChain. Para obtener más información sobre el framework de LangChain, consulta la documentación del producto LangChain.

Componentes de LangChain para Spanner

Spanner ofrece las siguientes interfaces de LangChain:

Aprende a usar estos componentes en una aplicación con la Guía de inicio rápido de LangChain para Spanner.

Almacén de vectores para Spanner

El almacén de vectores recupera y almacena documentos y metadatos de una base de datos de vectores. El almacén de vectores brinda a una aplicación la capacidad de realizar búsquedas semánticas que interpretan el significado de una consulta del usuario. Este tipo de búsqueda se denomina búsqueda de vectores y puede encontrar temas que coincidan de manera conceptual con la consulta. En el momento de la consulta, el almacén de vectores recupera los vectores de incorporación que más se parecen a la incorporación de la solicitud de búsqueda. En LangChain, un almacén de vectores se encarga de almacenar los datos incorporados y de realizar la búsqueda vectorial por ti.

Para trabajar con el almacén de vectores en Spanner, usa la clase SpannerVectorStore.

Para obtener más información, consulta la documentación del producto LangChain Vector Stores.

Guía de procedimiento de tienda de vectores

En la guía de Spanner para el almacén de vectores, se muestra cómo hacer lo siguiente:

  • Cómo instalar el paquete de integración y LangChain
  • Cómo inicializar una tabla para el almacén de vectores
  • Configura un servicio de incorporación con VertexAIEmbeddings.
  • Inicializa SpannerVectorStore
  • Agrega y borra documentos
  • Buscar documentos similares
  • Crear un almacén de vectores personalizado para conectarlo a una base de datos preexistente de Spanner que tenga una tabla con incorporaciones vectoriales

Cargador de documentos para Spanner

El cargador de documentos guarda, carga y borra objetos Document de LangChain. Por ejemplo, puedes cargar datos para procesarlos en incorporaciones y almacenarlos en un almacén de vectores o usarlos como herramienta para proporcionar contexto específico a las cadenas.

Para cargar documentos desde Spanner, usa la clase SpannerLoader. Usa la clase SpannerDocumentSaver para guardar y borrar documentos.

Para obtener más información, consulta el tema Cargadores de documentos de LangChain.

Guía de procedimiento del cargador de documentos

En la guía de Spanner para el cargador de documentos, se muestra cómo hacer lo siguiente:

  • Cómo instalar el paquete de integración y LangChain
  • Carga documentos desde una tabla
  • Cómo agregar un filtro al cargador
  • Personaliza la conexión y la autenticación
  • Especifica el contenido y los metadatos de los clientes para personalizar la construcción de documentos
  • Cómo usar y personalizar un SpannerDocumentSaver para almacenar y borrar documentos

Historial de mensajes de chat para Spanner

Las aplicaciones de preguntas y respuestas requieren un historial de lo que se dice en la conversación para darle contexto a la aplicación y poder responder más preguntas del usuario. La clase ChatMessageHistory de LangChain permite a la aplicación guardar mensajes en una base de datos y recuperarlos cuando sea necesario para formular más respuestas. Un mensaje puede ser una pregunta, una respuesta, una declaración, un saludo o cualquier otro texto que el usuario o la aplicación proporcione durante la conversación. ChatMessageHistory almacena los mensajes y los encadena para cada conversación.

Spanner extiende esta clase con SpannerChatMessageHistory.

Guía de procedimiento del historial de mensajes de chat

En la guía de Spanner sobre el historial de mensajes de chat, se muestra cómo hacer lo siguiente:

  • Instala LangChain y autentícate en Google Cloud
  • Inicializa una tabla
  • Inicializa la clase SpannerChatMessageHistory para agregar y borrar mensajes.
  • Usa un cliente para personalizar la conexión y la autenticación
  • Borrar la sesión SpannerChatMessageHistory