Générer des prédictions de ML à l'aide de l'émulateur Spanner

GoogleSQL

Pour en savoir plus sur l'utilisation de la fonction ML.PREDICT pour générer des prédictions, consultez la page Générer des prédictions de ML à l'aide de SQL.

Enregistrer le modèle

Avant de pouvoir utiliser un modèle avec la fonction ML.PREDICT, vous devez l'enregistrer à l'aide de l'instruction CREATE MODEL, et fournir les valeurs input et output:

CREATE MODEL FraudDetection
INPUT (Amount INT64, Name STRING(MAX))
OUTPUT (Outcome BOOL)
REMOTE OPTIONS (
endpoint = '//aiplatform.googleapis.com/projects/PROJECT_ID/locations/REGION_ID/endpoints/ENDPOINT_ID'
);

Remplacez les éléments suivants :

• PROJECT_ID: ID du projet Google Cloud dans lequel se trouve le modèle

• REGION_ID: ID de la région Google Cloud dans laquelle se trouve le modèle (par exemple, us-central1)

• ENDPOINT_ID: ID du point de terminaison du modèle

Exécuter la prédiction

Utilisez la fonction GoogleSQL ML.PREDICT pour générer votre prédiction.

SELECT Outcome
FROM ML.PREDICT(
    MODEL FraudDetection,
    (SELECT 1000 AS Amount, "John Smith" AS Name))

Le résultat attendu de cette requête est TRUE.

PostgreSQL

Pour en savoir plus sur l'utilisation de la fonction spanner.ML_PREDICT_ROW pour générer des prédictions, consultez la page Générer des prédictions de ML à l'aide de SQL.

Exécuter la prédiction

Utilisez la fonction PostgreSQL spanner.ML_PREDICT_ROW pour générer votre prédiction.

SELECT (spanner.ml_predict_row(
'projects/`MODEL_ID`/locations/`REGION_ID`/endpoints/`ENDPOINT_ID`',
'{"instances": [{"Amount": "1000", "Name": "John Smith"}]}'
)->'predictions'->0->'Outcome')::boolean

Remplacez les éléments suivants :

• PROJECT_ID: ID du projet Google Cloud dans lequel se trouve le modèle

• REGION_ID: ID de la région Google Cloud dans laquelle se trouve le modèle (par exemple, us-central1)

• ENDPOINT_ID: ID du point de terminaison du modèle

Le résultat attendu de cette requête est TRUE.

GoogleSQL

Enregistrer le modèle

Avant de pouvoir utiliser un modèle avec la fonction ML.PREDICT, vous devez l'enregistrer à l'aide de l'instruction CREATE MODEL:

CREATE MODEL GeminiPro
INPUT (prompt STRING(MAX))
OUTPUT (content STRING(MAX))
REMOTE OPTIONS (
endpoint = '//aiplatform.googleapis.com/projects/PROJECT_ID/locations/REGION_ID/publishers/google/models/gemini-pro',
default_batch_size = 1
);

Comme l'émulateur ne se connecte pas à Vertex AI, vous devez fournir les valeurs input et output.

Remplacez les éléments suivants :

• PROJECT_ID: ID du projet Google Cloud dans lequel se trouve le modèle

• REGION_ID: ID de la région Google Cloud dans laquelle se trouve le modèle (par exemple, us-central1)

Rappel

Utilisez un rappel pour ajouter une logique personnalisée au modèle GeminiPro.

absl::Status ModelEvaluator::Predict(
    const googlesql::Model* model,
    const CaseInsensitiveStringMap<const ModelColumn>& model_inputs,
    CaseInsensitiveStringMap<ModelColumn>& model_outputs) {
  // Custom logic for GeminiPro.
  if (model->Name() == "GeminiPro") {
    RET_CHECK(model_inputs.contains("prompt"));
    RET_CHECK(model_inputs.find("prompt")->second.value->type()->IsString());
    RET_CHECK(model_outputs.contains("content"));
    std::string content;

    // Process prompts used in tests.
    int64_t number;
    static LazyRE2 is_prime_prompt = {R"(Is (\d+) a prime number\?)"};
    if (RE2::FullMatch(
            model_inputs.find("prompt")->second.value->string_value(),
            *is_prime_prompt, &number)) {
        content = IsPrime(number) ? "Yes" : "No";
    } else {
        // Default response.
        content = "Sorry, I don't understand";
    }
    *model_outputs["content"].value = googlesql::values::String(content);
    return absl::OkStatus();
  }
  // Custom model prediction logic can be added here.
  return DefaultPredict(model, model_inputs, model_outputs);
}

Exécuter la prédiction

Utilisez la fonction GoogleSQL ML.PREDICT pour générer votre prédiction.

SELECT content
    FROM ML.PREDICT(MODEL GeminiPro, (SELECT "Is 7 a prime number?" AS prompt))

Le résultat attendu de cette requête est "YES".

PostgreSQL

Utilisez la fonction PostgreSQL spanner.ML_PREDICT_ROW pour générer votre prédiction.

Rappel

Utilisez un rappel pour ajouter une logique personnalisée au modèle GeminiPro.

absl::Status ModelEvaluator::PgPredict(
    absl::string_view endpoint, const googlesql::JSONValueConstRef& instance,
    const googlesql::JSONValueConstRef& parameters,
    lesql::JSONValueRef prediction) {
  if (endpoint.ends_with("publishers/google/models/gemini-pro")) {
    RET_CHECK(instance.IsObject());
    RET_CHECK(instance.HasMember("prompt"));
    std::string content;

    // Process prompts used in tests.
    int64_t number;
    static LazyRE2 is_prime_prompt = {R"(Is (\d+) a prime number\?)"};
    if (RE2::FullMatch(instance.GetMember("prompt").GetString(),
                        *is_prime_prompt, &number)) {
        content = IsPrime(number) ? "Yes" : "No";
    } else {
        // Default response.
        content = "Sorry, I don't understand";
    }
    prediction.SetToEmptyObject();
    prediction.GetMember("content").SetString(content);
    return absl::OkStatus();
  }

  // Custom model prediction logic can be added here.
  return DefaultPgPredict(endpoint, instance, parameters, prediction);
}

Exécuter la prédiction

SELECT (spanner.ml_predict_row(
'projects/`PROJECT_ID`/locations/`REGION_ID`/publishers/google/models/gemini-pro',
'{"instances": [{"prompt": "Is 7 a prime number?"}]}'
)->'predictions'->0->'content')::text

Remplacez les éléments suivants :

• PROJECT_ID: ID du projet Google Cloud dans lequel se trouve le modèle

• REGION_ID: ID de la région Google Cloud dans laquelle se trouve le modèle (par exemple, us-central1)

Le résultat attendu de cette requête est "YES".