Respons dasar untuk model Gemini

Permukaan rujukan dengan Google Penelusuran

Gunakan Grounding dengan Google Penelusuran jika Anda ingin menghubungkan model dengan pengetahuan dunia, berbagai kemungkinan topik, atau informasi terbaru di internet.

Anda harus menampilkan titik entri Google Penelusuran saat menggunakan fitur ini. Untuk mempelajari persyaratannya lebih lanjut, lihat titik entri Google Penelusuran.

Untuk mempelajari lebih lanjut landasan model di Vertex AI, lihat Ringkasan ground.

Model yang didukung

Model berikut mendukung landasan:

• Gemini 1.0 Pro

Jika Anda menggunakan Grounding dengan Google Penelusuran, sebaiknya gunakan suhu 0.0. Untuk mempelajari setelan konfigurasi ini lebih lanjut, lihat isi permintaan Gemini API dari referensi model.

POST http://LOCATION-prediction-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent

{
"contents": [{
  "role": "user",
  "parts": [{
    "text": TEXT
  }]
}],
"tools": [{
  "googleSearchRetrieval": {}
}],
"model": MODEL
}'

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "http://LOCATION-prediction-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "http://LOCATION-prediction-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent" | Select-Object -Expand Content

{
  "candidates":[
     {
        "content":{
           "role":"model",
           "parts":[
              {
                 "text":"Chicago's forecast: Today, March 1st, the weather is rainy, overcast, and chilly with highs in the low 50s. A jacket for the evenings is recommended, since the evenings will be closer to 30 degrees."
              }
           ]
        },
        "finishReason":"STOP",
        "safetyRatings":[
           "..."
        ],
        "groundingMetadata":{
           "webSearchQueries":[
              "What's the weather in Chicago this weekend and do I need to bring a coat?"
           ]
        }
     }
  ],
  "usageMetadata":{

  }
}

import vertexai
from vertexai.preview.generative_models import (
    GenerationConfig,
    GenerationResponse,
    GenerativeModel,
    grounding,
    Tool,
)

def generate_text_with_grounding_web(
    project_id: str, location: str
) -> GenerationResponse:
    # Initialize Vertex AI
    vertexai.init(project=project_id, location=location)

    # Load the model
    model = GenerativeModel(model_name="gemini-1.0-pro")

    # Use Google Search for grounding
    tool = Tool.from_google_search_retrieval(grounding.GoogleSearchRetrieval())

    prompt = "When is the next total solar eclipse in US?"
    response = model.generate_content(
        prompt,
        tools=[tool],
        generation_config=GenerationConfig(
            temperature=0.0,
        ),
    )

    print(response)

Pahami respons Anda

Jika perintah model Anda berhasil diarahkan ke Google Penelusuran dari Vertex AI Studio atau dari API, responsnya akan menyertakan metadata dengan link sumber (URL web). Namun, ada beberapa alasan mengapa metadata ini mungkin tidak diberikan, dan respons perintah tidak akan didasarkan. Alasan ini mencakup relevansi sumber yang rendah atau informasi yang tidak lengkap dalam respons model.

Kutipan

Menampilkan kutipan sangat disarankan. Eksperimen membantu pengguna memvalidasi respons dari penerbit itu sendiri dan membuka peluang untuk pembelajaran lebih lanjut.

Kutipan untuk respons dari sumber Google Penelusuran harus ditampilkan secara inline dan gabungan. Lihat gambar berikut sebagai saran tentang cara melakukannya.

Penggunaan opsi mesin telusur alternatif

Penggunaan Grounding dengan Google Penelusuran oleh Pelanggan tidak mencegah Pelanggan menawarkan opsi mesin telusur alternatif, menjadikan opsi penelusuran alternatif sebagai opsi default untuk Aplikasi Pelanggan, atau menampilkan saran penelusuran mereka sendiri atau pihak ketiga atau hasil penelusuran di Aplikasi Pelanggan, dengan ketentuan bahwa layanan penelusuran non-Google tersebut atau hasil terkait tersebut ditampilkan secara terpisah dari Hasil Dasar dan Titik Entri Penelusuran, serta tidak dapat secara wajar dikaitkan dengan, atau disalahartikan oleh Google.

Gabungkan Gemini ke data Anda

Bagian ini menunjukkan cara menerapkan respons teks Gemini 1.0 Pro ke datastore Vertex AI Search menggunakan Vertex AI API.

Model berikut mendukung landasan:

• Gemini 1.0 Pro

Ada prasyarat yang diperlukan sebelum Anda dapat menerapkan tanah Gemini 1.0 Pro.

1. Aktifkan Vertex AI Search dan aktifkan API.
2. Membuat sumber data dan aplikasi Vertex AI Search.
3. Tautkan datastore ke aplikasi Anda di Vertex AI Search. Sumber data berfungsi sebagai fondasi untuk landasan Gemini 1.0 Pro di Vertex AI.
4. Mengaktifkan edisi Enterprise untuk datastore Anda.

Lihat Pengantar Vertex AI Search untuk mengetahui informasi selengkapnya.

Aktifkan Vertex AI Search

1. Di konsol Google Cloud, buka halaman Penelusuran & Percakapan.

   Penelusuran & Percakapan

2. Baca dan setujui persyaratan layanan, lalu klik Continue and enable the API.

Vertex AI Search tersedia di lokasi global, atau multi-region eu dan us. Untuk mempelajari lebih lanjut, lihat lokasi Vertex AI Search

Membuat datastore di Vertex AI Search

Untuk membandingkan model dengan data sumber, Anda harus sudah menyiapkan dan menyimpan data ke Vertex AI Search. Untuk melakukannya, Anda perlu membuat penyimpanan data di Vertex AI Search.

Jika memulai dari awal, Anda harus menyiapkan data untuk ditransfer ke Vertex AI Search. Lihat Menyiapkan data untuk diserap untuk memulai. Bergantung pada ukuran data Anda, penyerapan dapat memerlukan waktu beberapa menit hingga beberapa jam. Hanya penyimpanan data tidak terstruktur yang didukung untuk landasan.

Setelah menyiapkan data untuk penyerapan, Anda dapat Membuat penyimpanan data penelusuran. Setelah Anda berhasil membuat datastore, Buat aplikasi penelusuran untuk menautkannya dan Aktifkan edisi Enterprise.

Menurunkan model Gemini 1.0 Pro

Jika Anda tidak mengetahui ID datastore Anda, ikuti langkah-langkah berikut:

1. Di konsol Google Cloud, buka halaman Vertex AI Search dan di menu navigasi, klik Datastore. <a{: class="button button-primary" l10n-attrs-original-order="href,target,class,track-name,track-type" l10n-encrypted-href="BU2UnTd/bvXw0I31NoHStFtigmNHgUGOXn/QVSGplOhB4J1rwNxdLkslXs
2. Klik nama datastore Anda.
3. Di halaman Data untuk datastore Anda, dapatkan ID datastore.

PROJECT_ID=PROJECT_ID
curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"  http://us-central1-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/gemini-1.0-pro:generateContent -d '{
  "contents": [{
    "role": "user",
    "parts": [{
      "text": TEXT
    }]
  }],
  "model": "projects/PROJECT_ID/locations/us-central1/publishers/google/models/gemini-1.0-pro",
  "tools": [{
    "retrieval": {
      "vertexAiSearch": {
        "datastore": projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID
      }
    }
  }]
}

import vertexai
from vertexai.preview.generative_models import (
    GenerationConfig,
    GenerationResponse,
    GenerativeModel,
    grounding,
    Tool,
)

def generate_text_with_grounding_vertex_ai_search(
    project_id: str, location: str, data_store_path: str
) -> GenerationResponse:
    # Initialize Vertex AI
    vertexai.init(project=project_id, location=location)

    # Load the model
    model = GenerativeModel(model_name="gemini-1.0-pro")

    # Use Vertex AI Search data store
    # Format: projects/{project_id}/locations/{location}/collections/default_collection/dataStores/{data_store_id}
    tool = Tool.from_retrieval(
        grounding.Retrieval(grounding.VertexAISearch(datastore=data_store_path))
    )

    prompt = "How do I make an appointment to renew my driver's license?"
    response = model.generate_content(
        prompt,
        tools=[tool],
        generation_config=GenerationConfig(
            temperature=0.0,
        ),
    )

    print(response)

Langkah selanjutnya

• Pelajari cara mengirim permintaan perintah chat.
• Pelajari praktik terbaik responsible AI dan filter keamanan Vertex AI.
• Untuk mempelajari cara mendukung model PaLM, lihat Grounding di Vertex AI