使用开放模型

您可以将开放模型与 Vertex AI 搭配使用。开放模型可免费使用,您可以随意发布其输出,并在遵守其许可条款的情况下随时随地使用该模型。将开放模型与 Vertex AI 搭配使用时,您可以将 Vertex AI 用于基础设施。您还可以将开放模型与其他基础设施产品(例如 PyTorch 或 Jax)搭配使用。开放模型不应与开源模型混淆,因为开放模型不必提供源代码和信息来从头开始训练模型。

许多开放模型都被认为是开放权重大语言模型 (LLM)。开放模型比非开放权重模型的透明度更高。模型的权重是存储在模型的神经网络架构中的数值,用于表示从训练模型的数据中学习的模式和关系。系统会发布开放权重模型的预训练参数或权重。您可以使用开放权重模型进行推理和调优,但不提供原始数据集、模型架构和训练代码等详细信息。

有关开放模型及其使用方法的详细信息,参见 Model Garden 中的模型卡片。如需访问开放模型的模型卡片,请转到 Model Garden 并搜索其名称。如需详细了解 Model Garden,请参阅在 Model Garden 中探索 AI 模型

如需了解如何使用 Gemma 和 Llama 开放模型,请参阅以下内容: