Generative AI support on Vertex AI 版本说明

本页面记录了 Generative AI support on Vertex AI 和 Vertex AI Model Garden 的正式版更新。您可以定期查看本页面，了解有关新增功能、功能更新、bug 修复、已知问题和功能弃用的公告。

2023 年 9 月 1 日

价格更新

text-bison 的价格已降至每 1,000 个输入和输出字符 $0.0005。如需了解详情，请参阅 Vertex AI 价格。

2023 年 8 月 29 日

新的 Generative AI support on Vertex AI 模型和扩展语言支持

Generative AI support on Vertex AI 已更新，其中添加了新的候选语言模型（最新模型）、支持最多 3.2 万个输入和输出词元和更多语言的语言模型。如需了解详情，请参阅可用模型以及模型版本和生命周期。

流式传输来自生成式 AI 模型的回复

生成式 AI 模型流式传输支持现已正式发布 (GA)。发送提示后，模型会在生成回复词元时返回回复词元，而不是等待整个输出可用后才返回。

支持的模型包括：

  • text-bison
  • chat-bison
  • code-bison
  • codechat-bison

如需了解详情，请参阅流式传输来自生成式 AI 模型的回复。

text-bison 模型的模型调整功能现已正式发布 (GA)

使用监督式微调 (SFT) 调整 text-bison 模型的功能现已正式发布 (GA)。 如需了解详情，请参阅调整文本模型。

现已推出 chat-bison 模型的模型调整（预览版）

您现在可以使用监督式微调来调整 chat-bison 模型。此功能处于预览版阶段。 如需了解详情，请参阅调整文本模型。

全新嵌入式模型现已推出预览版

Generative AI support on Vertex AI 用户现可使用以各种非英语语言训练的新模型创建嵌入。该模型处于预览版阶段。

  • textembedding-gecko-multilingual

如需了解详情，请参阅获取文本嵌入。

Imagen 主题调整和样式调整现已正式发布 (GA)

Imagen on Vertex AI 现在提供以下正式版功能：

  • 主题模型调整（标准调整）*
  • 样式模型调整*

* 受限访问功能。

如需详细了解 Imagen on Vertex AI 或如何访问受限正式版，请参阅 Imagen on Vertex AI 概览。

text-bison 的基于人类反馈的强化学习 (RLHF) 调整

Generative AI support on Vertex AI 文本生成基础模型 (text-bison) 现在支持 RLHF 调整。RLHF 调整功能目前为预览版。如需了解详情，请参阅使用 RLHF 模型调整。

Vertex AI Codey API 语言支持

Vertex AI Codey API 现在支持其他编程语言。如需了解详情，请参阅支持的编码语言。

Vertex AI Codey API 现在支持监督式微调 (SFT)

代码聊天 (codechat-bison) 和代码生成 (code-bison) Vertex AI Codey API 模型现在支持监督式微调 (SFT)。Vertex AI Codey API 模型的监督式微调功能处于预览版阶段。如需了解详情，请参阅调整代码模型。

基于指标的模型评估

您可以根据评估数据集评估基础模型和经调整的模型的性能，以进行分类、汇总、问答和常规文本生成。此功能为预览版

如需了解详情，请参阅评估模型性能。

CountToken API 现已推出预览版

CountToken API 目前为预览版。您可以使用此 API 获取提示的词元数和计费字符数。如需了解详情，请参阅获取词元数。

2023 年 8 月 9 日

Imagen 多模态嵌入现提供正式版

Imagen on Vertex AI 现在提供以下正式版功能：

  • 多模态嵌入

此功能会产生不同的价格，具体取决于您是使用图片输入还是文本输入。如需了解详情，请参阅多模态嵌入功能页面。

2023 年 8 月 21 日

模型调整参数更新

对于模型评估和 Vertex AI TensorBoard 集成，模型调整作业现接受可选参数。这样，您就可以使用单个命令评估模型并生成可视化效果。如需了解详情，请参阅创建模型调整作业。

2023 年 7 月 28 日

模型调整参数更新

模型调整中的 learning_rate 参数现在为 learning_rate_multiplier。如需使用模型或调整方法的默认学习速率，请使用默认的 learning_rate_multiplier 值 1.0。

如果您之前未配置过 learning_rate，则无需执行任何操作。如果将 tuning_method=tune_v2 与 v2.0.0 流水线模板（Python SDK v1.28.1+）搭配使用，则建议的学习速率为 0.0002。如需将自定义 learning_rate 转换为 learning_rate_multiplier，计算公式如下：

learing_rate_multiplier = custom_learning_rate_value / 0.0002

2023 年 7 月 18 日

text-bison 的模型调整更新

  • 升级后的调整流水线现对 text-bison 提供更高效的调整和更好的性能。
  • 新的调整区域 (us-central1) 提供 GPU 支持。
  • 利用新的 learning_rate 参数，您可以在每次迭代时调整步长。

如需了解详情，请参阅调整语言基础模型。

2023 年 7 月 17 日

Imagen on Vertex AI 正式版功能

Imagen on Vertex AI 现在提供以下正式版功能：

* 受限访问功能。

如需详细了解 Imagen 或如何获取受限正式版或预览版功能的访问权限，请参阅 Imagen on Vertex AI 概览。

现已支持人脸生成

对于以下功能，Imagen 现支持人脸生成：

* 受限访问功能。

人脸生成功能默认处于启用状态，但包含儿童和/或名人的图片除外。如需了解详情，请参阅使用指南。

其他语言支持

Vertex AI PaLM API 添加了对以下语言的支持：

  • 西班牙语 (es)
  • 韩语 (ko)
  • 印地语 (hi)
  • 中文 (zh)

如需受支持的语言的完整列表，请参阅支持的语言。

2023 年 7 月 13 日

对 PaLM 2 for Text 的批处理支持

针对批量文本 (text-bison) 请求的支持现已推出正式版。您可以在 Vertex AI 价格页面上查看 chat-bison 模型的价格。

2023 年 7 月 10 日

PaLM 2 for Chat

针对 Chat (chat-bison) 的支持现已推出正式版。您可以在 Vertex AI 价格页面上查看 chat-bison 模型的价格。

2023 年 6 月 29 日

Vertex AI Codey API

Vertex AI Codey API 现已正式发布 (GA)。使用 Vertex AI Codey API 创建包含代码生成、代码补全和代码聊天的解决方案。由于 Vertex AI Codey API 已正式发布，因此使用它们会产生使用费用。如需了解价格，请参阅 Generative AI support on Vertex AI 的价格页面。

此版本中的模型包括：

  • code-bison（代码生成）
  • codechat-bison（代码聊天）
  • code-gecko（代码补全）

code-bison 和 codechat-bison 的输入词元数上限从 4,096 个词元增加到 6,144 个，可支持较长的提示和聊天记录。code-bison 和 codechat-bison 的输出词元数上限从 1,024 增加到 2,048，可支持更长的回复。

支持其他编程语言。如需了解详情，请参阅支持的编码语言。

从 code-bison 和 codechat-bison 模型中移除了多个微调数据集，实现以下改进：

  • 聊天过多。
  • 工件，例如 NBSP（不间断空格）字符。
  • 低质量代码回复。

如需了解云水平，请参阅 Vertex AI 认证。

2023 年 6 月 15 日

PaLM 2 for Chat

chat-bison 模型已更新，可更好地遵循 context 字段中的说明进行操作。如需详细了解如何为 chat-bison 创建聊天提示，请参阅设计聊天提示。

2023 年 6 月 7 日

PaLM Text 和 Embeddings API 以及 Generative AI Studio

Generative AI support on Vertex AI 现已推出正式版。此功能发布后，便可利用 Vertex AI PaLM API 生成可以在依托 AI 技术的应用中测试、调整和部署的 AI 模型。由于这些功能是正式版，因此使用 text-bison 和 textembedding-gecko PaLM API 会产生使用费用。如需详细了解价格，请参阅 Vertex AI 价格页面。

此版本中的功能和模型包括：

  • PaLM 2 for Text：text-bison
  • Embedding for Text：textembedding-gecko
  • Generative AI Studio for Language

Model Garden

Model Garden 现已推出正式版。Model Garden 是一个平台，可帮助您发现、测试、自定义和部署 Vertex AI 及部分 OSS 模型。从可调模型到针对特定任务的模型，都可在 Google Cloud 控制台的“Model Garden”页面上找到。

若要开始使用，请参阅在 Model Garden 中探索 AI 模型和 API。

Vertex AI Codey API

Vertex AI Codey API 目前为预览版。借助 Codey API，您可以从任何 Google Cloud 项目使用代码生成、代码补全和代码聊天 API，而无需列入许可名单。您可以从 us-central1 区域访问这些 API。Codey API 可以在 Generative AI Studio 中使用，也可以通过编程方式在 REST 命令中使用。

如需开始使用此功能，请参阅代码模型概览。

2023 年 5 月 10 日

Generative AI support on Vertex AI

Generative AI support on Vertex AI 现已推出预览版。此功能发布后，便可利用 Vertex AI PaLM API 生成可以在依托 AI 技术的应用中测试、调整和部署的 AI 模型。

此版本中的功能和模型包括：

  • PaLM 2 for Text：text-bison
  • PaLM 2 for Chat：chat-bison
  • Embedding for Text：textembedding-gecko
  • Generative AI Studio for Language
  • Tuning for PaLM 2
  • Vertex AI SDK v1.25，其中包括 TextGenerationModel (text-bison)、ChatModel (chat-bison)、TextEmbeddingModel (textembedding-gecko@001) 等新功能

您可以使用 Google Cloud 控制台中的 Generative AI Studio、Vertex AI API 和 Python 版 Vertex AI SDK 与 Vertex AI 上的生成式 AI 功能进行交互。

Model Garden

Model Garden 目前提供预览版。Model Garden 是一个平台，可帮助您发现、测试、自定义和部署 Vertex AI 及部分 OSS 模型。从可调模型到针对特定任务的模型，都可在 Google Cloud 控制台的“Model Garden”页面上找到。