MedLM

MedLM è una famiglia di modelli di base perfezionati per il settore sanitario. Med-PaLM 2 è uno dei modelli basati su testo sviluppati da Google Research a supporto di MedLM ed è stato il primo sistema di AI a raggiungere il livello di esperti umani nel rispondere a domande in stile USMLE (Health Medical Licensing Examination). Lo sviluppo di questi modelli è basato sulle esigenze specifiche del cliente, come la risposta a domande mediche e la stesura di riassunti.

Scheda del modello MedLM

La scheda del modello MedLM delinea i dettagli del modello, ad esempio l'uso previsto, la panoramica dei dati e le informazioni sulla sicurezza da parte di MedLM. Fai clic sul seguente link per scaricare una versione PDF della scheda del modello MedLM:

Scarica la scheda del modello MedLM

Casi d'uso

• Risposta alle domande: fornisce una bozza di risposta a domande di carattere medico, sotto forma di testo.
• Riassunto: prepara una versione più breve di un documento (ad esempio una nota di riepilogo post-visita o una nota Cronologia ed esame fisico) che incorpori informazioni pertinenti tratte dal testo originale.

Per ulteriori informazioni sulla progettazione di prompt di testo, consulta l'articolo Progettare prompt di testo.

Richiesta HTTP

MedLM-medium (medlm-medium):

POST http://us-central1-aiplatform.googleapis.com/v1/projects/{PROJECT_ID}/locations/us-central1/publishers/google/models/medlm-medium:predict

MedLM-large (medlm-large):

POST http://us-central1-aiplatform.googleapis.com/v1/projects/{PROJECT_ID}/locations/us-central1/publishers/google/models/medlm-large:predict

Per saperne di più, consulta il metodo predict.

Versioni modello

MedLM fornisce i seguenti modelli:

• MedLM medio (medlm-medium)
• MedLM-large (medlm-large)

La seguente tabella contiene le versioni del modello stabile disponibili:

MedLM-medium e MedLM-large hanno endpoint separati e offrono ai clienti una maggiore flessibilità per i loro casi d'uso. MedLM-medium fornisce ai clienti velocità effettiva migliori e include dati più recenti. MedLM-large è lo stesso modello della fase di anteprima. Entrambi i modelli continueranno a essere aggiornati nel corso del ciclo di vita. In questa pagina, "MedLM" si riferisce a entrambi i modelli.

Per saperne di più, consulta Versioni e ciclo di vita dei modelli.

Filtri e attributi di sicurezza MedLM

I contenuti elaborati tramite l'API MedLM vengono valutati in base a un elenco di attributi di sicurezza, tra cui "categorie dannose" e argomenti che possono essere considerati sensibili. Se vedi una risposta di riserva, come "Non sono in grado di aiutarti, poiché sono solo un modello linguistico", significa che il prompt o la risposta attivano un filtro di sicurezza.

Soglie di sicurezza

Quando utilizzi Vertex AI Studio, puoi utilizzare una soglia del filtro di sicurezza regolabile per determinare la probabilità di vedere risposte che potrebbero essere dannose. Le risposte del modello vengono bloccate in base alla probabilità che contengano molestie, incitamento all'odio, contenuti pericolosi o contenuti sessualmente espliciti. L'impostazione del filtro di sicurezza si trova sul lato destro del campo del prompt in Vertex AI Studio. Puoi scegliere fra tre opzioni: block most, block some e block few.

Test delle soglie di affidabilità e gravità

Puoi testare i filtri di sicurezza di Google e definire soglie di confidenza adatte alla tua attività. Utilizzando queste soglie, puoi adottare misure complete per rilevare i contenuti che violano le norme di utilizzo o i termini di servizio di Google e adottare le misure appropriate.

I punteggi di affidabilità sono solo previsioni e non devi dipendere dai punteggi per l'affidabilità o l'accuratezza. Google non è responsabile dell'interpretazione o dell'utilizzo di questi punteggi per le decisioni aziendali.

Pratiche consigliate

Per utilizzare questa tecnologia in modo sicuro e responsabile, è importante considerare altri rischi specifici per il tuo caso d'uso, gli utenti e il contesto aziendale, oltre a misure di salvaguardia tecniche integrate.

Ti consigliamo di procedere nel seguente modo:

1. Valutare i rischi per la sicurezza della tua applicazione.
2. Valuta la possibilità di apportare modifiche per mitigare i rischi per la sicurezza.
3. Esegui test di sicurezza appropriati al tuo caso d'uso.
4. Sollecitare il feedback degli utenti e monitorare i contenuti.

Per scoprire di più, consulta i consigli di Google per l'IA responsabile.

Corpo della richiesta

{
  "instances": [
    {
      "content": string
    }
  ],
  "parameters": {
    "temperature": number,
    "maxOutputTokens": integer,
    "topK": integer,
    "topP": number
  }
}

Utilizza i seguenti parametri per i modelli medlm-medium e medlm-large. Per ulteriori informazioni, vedi Progettare prompt di testo.

Richiesta di esempio

Quando si utilizza l'API MedLM, è importante incorporare l'ingegneria del prompt. Ad esempio, consigliamo di fornire istruzioni appropriate e specifiche per le attività all'inizio di ogni prompt. Per ulteriori informazioni, consulta Introduzione alla progettazione dei prompt.

POST http://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/MEDLM_MODEL:predict

{
  "instances": [
    {
      "content": "Question: What causes you to get ringworm?"
    }
  ],
  "parameters": {
    "temperature": 0,
    "maxOutputTokens": 256,
    "topK": 40,
    "topP": 0.95
  }
}

cat > request.json << 'EOF'
{
  "instances": [
    {
      "content": "Question: What causes you to get ringworm?"
    }
  ],
  "parameters": {
    "temperature": 0,
    "maxOutputTokens": 256,
    "topK": 40,
    "topP": 0.95
  }
}
EOF

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "http://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/MEDLM_MODEL:predict"

@'
{
  "instances": [
    {
      "content": "Question: What causes you to get ringworm?"
    }
  ],
  "parameters": {
    "temperature": 0,
    "maxOutputTokens": 256,
    "topK": 40,
    "topP": 0.95
  }
}
'@  | Out-File -FilePath request.json -Encoding utf8

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "http://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/MEDLM_MODEL:predict" | Select-Object -Expand Content

Corpo della risposta

{
  "predictions": [
    {
      "content": string,
      "citationMetadata": {
        "citations": [
          {
            "startIndex": integer,
            "endIndex": integer,
            "url": string,
            "title": string,
            "license": string,
            "publicationDate": string
          }
        ]
      },
      "logprobs": {
        "tokenLogProbs": [ float ],
        "tokens": [ string ],
        "topLogProbs": [ { map<string, float> } ]
      },
      "safetyAttributes": {
        "categories": [ string ],
        "blocked": boolean,
        "scores": [ float ],
        "errors": [ int ]
      }
    }
  ],
  "metadata": {
    "tokenMetadata": {
      "input_token_count": {
        "total_tokens": integer,
        "total_billable_characters": integer
      },
      "output_token_count": {
        "total_tokens": integer,
        "total_billable_characters": integer
      }
    }
  }
}

Esempio di risposta

{
  "predictions": [
    {
      "citationMetadata": {
        "citations": []
      },
      "content": "\n\nAnswer and Explanation:\nRingworm is a fungal infection of the skin that is caused by a type of fungus called dermatophyte. Dermatophytes can live on the skin, hair, and nails, and they can be spread from person to person through direct contact or through contact with contaminated objects.\n\nRingworm can cause a variety of symptoms, including:\n\n* A red, itchy rash\n* A raised, circular border\n* Blisters or scales\n* Hair loss\n\nRingworm is most commonly treated with antifungal medications, which can be applied to the skin or taken by mouth. In some cases, surgery may be necessary to remove infected hair or nails.",
      "safetyAttributes": {
        "scores": [
          1
        ],
        "blocked": false,
        "categories": [
          "Health"
        ]
      }
    }
  ],
  "metadata": {
    "tokenMetadata": {
      "outputTokenCount": {
        "totalTokens": 140,
        "totalBillableCharacters": 508
      },
      "inputTokenCount": {
        "totalTokens": 10,
        "totalBillableCharacters": 36
      }
    }
  }
}

Risposta in streaming dai modelli di IA generativa

I parametri sono gli stessi per le richieste in modalità flusso e non in modalità flusso alle API.

Per visualizzare richieste di codice e risposte di esempio utilizzando l'API REST, consulta Esempi di utilizzo dell'API REST.

Per visualizzare richieste di codice e risposte di esempio utilizzando l'SDK Vertex AI per Python, consulta Esempi di utilizzo dell'SDK Vertex AI per Python.