Gemini 모델의 응답 그라운딩

Google 검색으로 그라운딩

모델을 전 세계 지식, 다양한 주제 또는 인터넷의 최신 정보와 연결하려면 Google 검색으로 그라운딩을 사용하세요.

이 기능을 사용할 때 Google 검색 진입점을 표시해야 합니다. 요구사항에 대한 자세한 내용은 Google 검색 진입점을 참조하세요.

Vertex AI의 모델 그라운딩에 대한 자세한 내용은 그라운딩 개요를 참조하세요.

지원되는 모델

다음 모델은 그라운딩을 지원합니다.

Gemini 1.0 Pro

Google 검색으로 그라운딩을 사용하는 경우 강도를 0.0으로 사용하는 것이 좋습니다. 이 구성의 설정 방법을 자세히 알아보려면 모델 참조의 Gemini API 요청 본문을 참조하세요.

REST

요청 데이터를 사용하기 전에 다음을 바꿉니다.

LOCATION: 요청을 처리하는 리전입니다.
PROJECT_ID: 프로젝트 ID
MODEL_ID: 멀티모달 모델의 모델 ID입니다.
TEXT: 프롬프트에 포함할 텍스트 안내입니다.

HTTP 메서드 및 URL:

POST http://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent

JSON 요청 본문:

{
  "contents": [{
    "role": "user",
    "parts": [{
      "text": "TEXT"
    }]
  }],
  "tools": [{
    "retrieval": {
      "googleSearchRetrieval": {}
    }
  }],
  "model": "projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID"
}

요청을 보내려면 다음 옵션 중 하나를 펼칩니다.

cURL(Linux, macOS, Cloud Shell)

참고: 다음 명령어는 gcloud init 또는 gcloud auth login을 실행하거나 gcloud CLI에 자동으로 로그인하는 Cloud Shell을 사용하여 사용자 계정으로 gcloud CLI에 로그인했다고 가정합니다. gcloud auth list를 실행하면 현재 활성 계정을 확인할 수 있습니다.

요청 본문을 request.json 파일에 저장하고 다음 명령어를 실행합니다.

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "http://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent"

PowerShell(Windows)

참고: 다음 명령어는 gcloud init 또는 gcloud auth login을 실행하여 사용자 계정으로 gcloud CLI에 로그인했다고 가정합니다. gcloud auth list를 실행하면 현재 활성 계정을 확인할 수 있습니다.

요청 본문을 request.json 파일에 저장하고 다음 명령어를 실행합니다.

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "http://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent" | Select-Object -Expand Content

다음과 비슷한 JSON 응답이 표시됩니다.

{
   "candidates": [
     {
       "content": {
         "role": "model",
         "parts": [
           {
             "text": "Chicago weather changes rapidly, so layers let you adjust easily. Consider a base layer, a warm mid-layer (sweater-fleece), and a weatherproof outer layer."
           }
         ]
       },
       "finishReason": "STOP",
       "safetyRatings":[
       "..."
    ],
       "groundingMetadata": {
         "webSearchQueries": [
           "What's the weather in Chicago this weekend?"
         ],
         "searchEntryPoint": {
            "renderedContent": "....................."
         }
       }
     }
   ],
   "usageMetadata": { "..."
   }
 }

Console

Vertex AI Studio에서 Google 검색으로 그라운딩 기능을 사용하려면 다음 단계를 따르세요.

Google Cloud 콘솔에서 Vertex AI Studio 페이지로 이동합니다.
Vertex AI Studio로 이동
멀티모달 탭을 클릭합니다.
열기를 클릭하여 단일 프롬프트 설계 페이지를 봅니다.
측면 패널에서 고급을 클릭하여 고급 설정을 봅니다.
그라운딩 사용 설정 전환 버튼을 클릭합니다.
맞춤설정을 클릭하고 Google 검색을 소스로 설정합니다.
텍스트 상자에 프롬프트를 입력하고 제출을 클릭합니다.

이제 프롬프트 응답이 Google 검색에 반영됩니다.

Python

Python용 Vertex AI SDK를 설치하거나 업데이트하는 방법은 Python용 Vertex AI SDK 설치를 참조하세요. 자세한 내용은 Python API 참고 문서를 확인하세요.

import vertexai

from vertexai.preview.generative_models import grounding
from vertexai.generative_models import GenerationConfig, GenerativeModel, Tool

# TODO(developer): Update and un-comment below line
# project_id = "PROJECT_ID"

vertexai.init(project=project_id, location="us-central1")

model = GenerativeModel(model_name="gemini-1.0-pro-002")

# Use Google Search for grounding
tool = Tool.from_google_search_retrieval(grounding.GoogleSearchRetrieval())

prompt = "When is the next total solar eclipse in US?"
response = model.generate_content(
    prompt,
    tools=[tool],
    generation_config=GenerationConfig(
        temperature=0.0,
    ),
)

print(response)

응답 이해하기

모델 프롬프트가 Vertex AI Studio 또는 API에서 Google 검색에 성공적으로 그라운딩하면 응답에 소스 링크 (웹 URL)가 있는 메타데이터가 포함됩니다. 하지만 이 메타데이터가 제공되지 않는 데에는 몇 가지 이유가 있습니다. 그리고 프롬프트 응답이 그라운딩되지 않습니다. 이러한 이유에는 모델 응답 내의 소스 관련성이 낮거나 불완전한 정보가 포함됩니다.

인용

인용을 표시하는 것이 좋습니다. 사용자가 게시자 자체의 응답을 확인하고 추가 학습을 위한 방법을 추가하는 데 도움이 됩니다.

Google 검색 출처의 응답에 대한 인용을 인라인 및 종합적으로 표시해야 합니다. 이를 수행하는 방법에 대한 추천 항목으로 다음 이미지를 참조하세요.

인용 예시

대체 검색 엔진 옵션 사용

고객이 Google 검색으로 그라운딩을 사용하더라도 다른 검색 엔진 옵션을 제공하거나, 대체 검색 옵션을 고객 애플리케이션의 기본 옵션으로 지정하거나, 자신 또는 서드 파티 검색 제안 또는 검색 결과를 고객 애플리케이션에 표시하지 못하도록 제한되지 않습니다. 단 이를 위해서는 그러한 Google 검색 이외의 서비스 또는 연관된 결과가 그라운딩된 결과 및 검색 진입점과 구분되어 표시되고 Google에서 제공하는 결과에 대해 합리적으로 귀속되거나 혼동될 수 없어야 합니다.

Gemini를 사용자 데이터로 그라운딩

이 섹션에서는 Vertex AI API를 사용하여 Vertex AI Search 데이터 스토어에 대한 Gemini 1.0 Pro 텍스트 응답을 그라운딩하는 방법을 보여줍니다.

다음 모델은 그라운딩을 지원합니다.

Gemini 1.0 Pro

Gemini 1.0 Pro를 그라운딩하려면 먼저 필요한 기본 요건이 있습니다.

Vertex AI Search를 사용 설정하고 API를 활성화합니다.
Vertex AI Search 데이터 소스 및 앱을 만듭니다.
데이터 스토어를 Vertex AI Search의 앱에 연결합니다. 데이터 소스는 Vertex AI에서 Gemini 1.0 Pro 그라운딩을 위한 기초로 사용됩니다.
데이터 스토어에 Enterprise 버전을 사용 설정합니다.

자세한 내용은 Vertex AI Search 소개를 참조하세요.

Vertex AI Search 사용 설정

Google Cloud 콘솔에서 검색 및 대화 페이지로 이동합니다.

검색 및 대화
서비스 약관을 읽고 동의한 후 계속 및 API 활성화를 클릭합니다.

중요: Vertex AI Search를 사용하려는 모든 프로젝트에 대한 검색 솔루션 데이터 사용 약관에 동의해야 합니다.

Vertex AI Search는 global 위치 또는 eu 및 us 멀티 리전에서 사용할 수 있습니다. 자세한 내용은 Vertex AI Search 위치를 참조하세요.

Vertex AI Search에 데이터 스토어 만들기

모델을 소스 데이터에 그라운딩하려면 데이터를 준비하고 Vertex AI Search에 저장해야 합니다. 이렇게 하려면 Vertex AI Search에 데이터 스토어를 만들어야 합니다.

처음부터 시작하는 경우 Vertex AI Search로 수집할 데이터를 준비해야 합니다. 시작하려면 수집을 위한 데이터 준비를 참조하세요. 데이터 크기에 따라 수집에 몇 분부터 몇 시간까지 걸릴 수 있습니다. 비정형 데이터 저장소만 그라운딩에 지원됩니다.

수집을 위해 데이터를 준비한 후에 검색 데이터 스토어를 만들 수 있습니다. 데이터 스토어를 성공적으로 만든 후 검색 앱을 만들어 데이터 스토어에 연결하고 Enterprise 버전을 사용 설정합니다.

Gemini 1.0 Pro 모델 그라운딩

데이터 스토어 ID를 모르면 다음 단계를 수행합니다.

Google Cloud 콘솔에서 Vertex AI Search 페이지로 이동하고 탐색 메뉴에서 데이터 저장소를 클릭합니다. <a{: class="button button-primary" l10n-attrs-original-order="href,target,class,track-name,track-type" l10n-encrypted-href="BU2UnTd/bvXw0I31NoHStFtigmNHgUGOXn/QVSGplOhB4J1rwNxdLslXsSNCBkPOFvWIDj0tv6yobddHSWXSow==" target="console" track-name="consoleLink" track-type="tasks" }="">데이터 저장소 페이지로 이동</a{:>
데이터 스토어 이름을 클릭합니다.
데이터 스토어의 데이터 페이지에서 데이터 스토어 ID를 가져옵니다.

REST

Vertex AI API를 사용하여 텍스트 프롬프트를 테스트하려면 POST 요청을 게시자 모델 엔드포인트로 전송합니다.

요청 데이터를 사용하기 전에 다음을 바꿉니다.

LOCATION: 요청을 처리하는 리전입니다.
PROJECT_ID: 프로젝트 ID
MODEL_ID: 멀티모달 모델의 모델 ID입니다.
TEXT: 프롬프트에 포함할 텍스트 안내입니다.

HTTP 메서드 및 URL:

POST http://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent

JSON 요청 본문:

{
  "contents": [{
    "role": "user",
    "parts": [{
      "text": "TEXT"
    }]
  }],
  "tools": [{
    "retrieval": {
      "vertexAiSearch": {
        "datastore": projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID
      }
    }
  }],
  "model": "projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID"
}

요청을 보내려면 다음 옵션 중 하나를 펼칩니다.

cURL(Linux, macOS, Cloud Shell)

요청 본문을 request.json 파일에 저장하고 다음 명령어를 실행합니다.

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "http://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent"

PowerShell(Windows)

요청 본문을 request.json 파일에 저장하고 다음 명령어를 실행합니다.

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "http://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent" | Select-Object -Expand Content

다음과 비슷한 JSON 응답이 표시됩니다.

{
   "candidates": [
     {
       "content": {
         "role": "model",
         "parts": [
           {
             "text": "You can make an appointment on the website http://dmv.gov/"
           }
         ]
       },
       "finishReason": "STOP",
       "safetyRatings":[
       "..."
    ],
       "groundingMetadata": {
         "retrievalQueries": [
           "How to make appointment to renew driving license?"
         ]
       }
     }
   ],
   "usageMetadata": { "..."
   }
 }

Python

Python용 Vertex AI SDK를 설치하거나 업데이트하는 방법은 Python용 Vertex AI SDK 설치를 참조하세요. 자세한 내용은 Python API 참고 문서를 확인하세요.

import vertexai

from vertexai.preview.generative_models import grounding
from vertexai.generative_models import GenerationConfig, GenerativeModel, Tool

# TODO(developer): Update and un-comment below line
# project_id = "PROJECT_ID"

vertexai.init(project=project_id, location="us-central1")

model = GenerativeModel(model_name="gemini-1.0-pro-002")

# Use Vertex AI Search data store
# Format: projects/{project_id}/locations/{location}/collections/default_collection/dataStores/{data_store_id}
tool = Tool.from_retrieval(
    grounding.Retrieval(grounding.VertexAISearch(datastore=data_store_path))
)

prompt = "How do I make an appointment to renew my driver's license?"
response = model.generate_content(
    prompt,
    tools=[tool],
    generation_config=GenerationConfig(
        temperature=0.0,
    ),
)

print(response)

Console

Google Cloud 콘솔에서 Vertex AI Studio를 사용하여 Vertex AI Search에 모델 출력을 그라운딩하려면 다음 단계를 따르세요.

Google Cloud 콘솔에서 Vertex AI Studio 페이지로 이동합니다.
Vertex AI Studio로 이동
언어 탭을 클릭합니다.
텍스트 프롬프트를 클릭하여 단일 프롬프트 설계 페이지를 봅니다.
측면 패널에서 고급을 클릭하여 고급 설정을 봅니다.
그라운딩 사용 설정 전환 버튼을 클릭하여 그라운딩을 사용 설정합니다.
맞춤설정을 클릭하고 Vertex AI Search를 소스로 설정합니다. 경로는 projects/project_id/locations/global/collections/default_collection/dataStores/data_store_id 형식을 따라야 합니다.
텍스트 상자에 프롬프트를 입력하고 제출을 클릭합니다.

이제 프롬프트 응답이 Vertex AI Search에 반영됩니다.

다음 단계

채팅 프롬프트 요청 보내기 방법 알아보기
책임감 있는 AI 권장사항 및 Vertex AI 안전 필터 알아보기
PaLM 모델을 그라운딩하는 방법은 Vertex AI에서 그라운딩을 참조하세요.