Inclure des exemples few-shot

Vous pouvez inclure des exemples dans l'invite afin de montrer au modèle à quoi ressemble une réponse correcte. Le modèle tente d'identifier des schémas et des relations à partir des exemples et les applique lors de la génération d'une réponse. Les invites contenant quelques exemples sont appelées des invites few-shot, tandis que les invites qui ne fournissent aucun exemple sont appelées invites zero-shot. Les invites few-shot sont souvent utilisées pour réguler la mise en forme, la formulation, le champ d'application ou la mise en forme générale des réponses du modèle. Utilisez des exemples spécifiques et variés pour aider le modèle à affiner son objectif et à générer des résultats plus précis.

Nous vous recommandons d'inclure des exemples few-shot dans vos invites. Les invites sans exemples few-shot sont susceptibles d'être moins efficaces, car elles ne montrent pas au modèle comment appliquer des instructions. En fait, vous pouvez supprimer les instructions de votre invite si vos exemples sont suffisamment clairs pour montrer la tâche à accomplir.

Les points clés de cette stratégie sont les suivants:

L'inclusion d'exemples de réponse dans l'invite aide le modèle à apprendre comment répondre.
Utilisez un balisage de type XML pour baliser les exemples.
Testez le nombre d'invites à inclure. Selon le modèle, un nombre insuffisant d'exemples peut ne pas suffir à changer le comportement du modèle. Un trop grand nombre d'exemples peut entraîner un surapprentissage du modèle.
Utiliser une mise en forme cohérente pour tous les exemples

Invites zero-shot et invites few-shot

L'invite zero-shot suivante demande au modèle de choisir la meilleure explication.

Requête :

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:

Réponse :

Explanation1

(gemini-pro)

Si votre cas d'utilisation nécessite que le modèle produise des réponses concises, vous pouvez inclure dans l'invite des exemples qui privilégient les réponses concises.

L'invite suivante fournit deux exemples qui indiquent une préférence pour les explications plus courtes. Dans la réponse, vous pouvez constater que les exemples ont poussé le modèle à choisir l'explication la plus courte (Explication2), par opposition à la plus longue (Explication1).

Requête :

Please choose the best explanation to the question:

Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
Answer: Explanation1

Réponse :

Explanation2

(gemini-pro)

Trouver le nombre optimal d'exemples

Vous pouvez tester le nombre d'exemples à fournir dans l'invite pour obtenir les résultats les plus satisfaisants. Des modèles tels que PaLM et Gemini peuvent souvent détecter des schémas avec seulement quelques exemples, mais vous devrez peut-être tester le nombre d'exemples vous permettant d'obtenir les résultats souhaités. Pour les modèles plus simples tels que BERT, vous aurez peut-être besoin de plus d'exemples. Cependant, si vous incluez trop d'exemples, le modèle peut manifester un surapprentissage qui biaise les réponses obtenues.

Utilisez un format de type XML pour baliser des exemples few-shot.

Contrairement aux modèles de ML traditionnels dans lesquels vous pouvez obtenir directement les résultats de la classification, les réponses d'un LLM aux questions de classification sont intégrées dans les réponses. Pour mieux analyser les réponses LLM, nous utilisons des exemples few-shot structurés pour enseigner aux LLM le modèle des réponses. L'utilisation de la structure suivante est problématique, car le texte d'entrée peut contenir des mots ayant un format similaire, ce qui peut dérouter le modèle.

Requête :

input: ABC
output: XYZ

L'utilisation du balisage de style XML pour délimiter les blocs d'instructions est plus fiable pour les raisons suivantes:

Il est moins courant de voir des balises XML dans le texte.
Vous pouvez définir des noms de balises XML spécifiques pour la rendre unique.
Nous supprimons toutes les balises XML du contenu HTML brut avant de classer les pages Web.

Requête :


Please choose the best explanation to the question:

<examples>
  <example1>
    <input>
      Question: Why is sky blue?
      Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
      wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
      blue.
      Explanation2: Due to Rayleigh scattering effect.
    <input>
    <output>
      Answer: Explanation2
    </output>
  </example1>
  <example2>
    <input>
      Question: What is the cause of earthquakes?
      Explanation1: Sudden release of energy in the Earth's crust.
      Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
      release of energy that creates seismic waves that can shake the ground and cause damage.
    </input>
    <output>
      Answer: Explanation1
    </output>
  <example2>
</examples>

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:

Réponse :

Explanation2

(gemini-pro)