Puedes incluir ejemplos en la instrucción que muestren cómo se ve el modelo. El modelo intenta identificar los patrones y las relaciones de los ejemplos y los aplica cuando se genera una respuesta. Los prompts que contienen pocos ejemplos se denominan prompts con pocos intentos, mientras que los prompts que no proporcionan ejemplos se denominan prompts sin intentos. Por lo general, los prompts con pocos intentos se usan para regular el formato, la frase, el alcance o el patrón general de las respuestas del modelo. Usa ejemplos específicos y variados para ayudar al modelo a reducir su enfoque y generar resultados más precisos.
Te recomendamos que incluyas ejemplos de pocos intentos en tus instrucciones. Es probable que las instrucciones sin ejemplos de pocas tomas sean menos eficaces, ya que no le muestran al modelo cómo aplicar las instrucciones. De hecho, puedes quitar instrucciones de tu instrucción si los ejemplos son lo suficientemente claros como para mostrar la tarea en cuestión.
Los puntos clave de esta estrategia son los siguientes:
- Incluir ejemplos de instrucción y respuesta en el mensaje ayuda a que el modelo aprenda a responder.
- Usa lenguaje de marcado similar a XML para marcar los ejemplos.
- Experimenta con la cantidad de instrucciones que se deben incluir. Según el modelo, muy pocos ejemplos son ineficaces para cambiar el comportamiento del modelo. Cuando hay demasiados ejemplos, el modelo se sobreajusta.
- Usa un formato coherente en los ejemplos
Comparación entre las instrucciones de toma de cero y los de tomas individuales
La siguiente instrucción sin ejemplos le pide al modelo que elija la mejor explicación.
Please choose the best explanation to the question: Question: How is snow formed? Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and accumulate on the ground. Explanation2: Water vapor freezes into ice crystals forming snow. Answer: Explanation1 |
Si tu caso de uso requiere que el modelo produzca respuestas concisas, puedes incluir ejemplos en la instrucción que den preferencia a respuestas concisas.
En la siguiente instrucción, se proporcionan dos ejemplos que muestran una preferencia por las explicaciones más cortas. En la respuesta, puedes ver que los ejemplos guiaron al modelo para elegir la explicación más corta (Explicación 2) en lugar de la explicación más larga (Explicación 1) como lo hizo antes.
Please choose the best explanation to the question: Question: Why is sky blue? Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look blue. Explanation2: Due to Rayleigh scattering effect. Answer: Explanation2 Question: What is the cause of earthquakes? Explanation1: Sudden release of energy in the Earth's crust. Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a release of energy that creates seismic waves that can shake the ground and cause damage. Answer: Explanation1 Question: How is snow formed? Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and accumulate on the ground. Explanation2: Water vapor freezes into ice crystals forming snow. Answer: Explanation2 |
Encuentra la cantidad óptima de ejemplos
Puedes experimentar con la cantidad de ejemplos para proporcionar en la instrucción los resultados más deseados. Los modelos como PaLM y Gemini a menudo pueden recoger patrones con algunos ejemplos, aunque es posible que debas experimentar con qué cantidad de ejemplos conducen a los resultados deseados. Para modelos más simples como BERT, es posible que necesites más ejemplos. Al mismo tiempo, si incluyes demasiados ejemplos, el modelo puede comenzar a sobreajustar la respuesta a los ejemplos.
Usa un formato similar al de XML para marcar ejemplos de tomas
A diferencia de los modelos de AA tradicionales en los que puedes obtener resultados de clasificación directamente, las respuestas de un LLM a las preguntas de clasificación están incorporadas en las respuestas. Para analizar mejor las respuestas de los LLM, usamos ejemplos estructurados de pocas tomas a fin de enseñarles a los LLM el patrón de respuestas. El uso de la siguiente estructura es problemático porque el texto de entrada podría contener palabras con un patrón similar y puede confundir al modelo.
input: ABC
output: XYZ
|
El uso de lenguaje de marcado de estilo XML para demarcar los bloques de instrucciones es más sólido por los siguientes motivos:
- Es menos común ver etiquetas XML en el texto.
- Se pueden definir nombres de etiquetas XML específicos para que sean únicos.
- Quitamos todas las etiquetas XML del contenido HTML sin procesar antes de clasificar las páginas web.
Please choose the best explanation to the question:
<examples>
<example1>
<input>
Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
<input>
<output>
Answer: Explanation2
</output>
</example1>
<example2>
<input>
Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
</input>
<output>
Answer: Explanation1
</output>
<example2>
</examples>
Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
Explanation2
|