퓨샷 예시 포함

프롬프트에 올바른 예시 모델을 보여주는 예시를 포함할 수 있습니다. 모델은 예시의 패턴과 관계를 식별한 후 응답을 생성할 때 이를 적용합니다. 몇 가지 예시가 포함된 프롬프트를 퓨샷 프롬프트라고 하며, 예시를 제공하지 않는 프롬프트를 제로샷 프롬프트라고 합니다. 퓨샷 프롬프트는 모델 응답의 형식 지정, 문구, 범위 지정 또는 일반적인 패턴을 규제하는 데 자주 사용됩니다. 모델이 초점을 좁히고 더 정확한 결과를 생성할 수 있도록 구체적이고 다양한 예시를 사용합니다.

프롬프트에 퓨샷 예시를 포함하는 것이 좋습니다. 퓨샷 예시는 모델에 요청 사항을 적용하는 방법을 알려주지 않으므로 퓨샷 예시가 없는 프롬프트는 효과적이지 않을 수 있습니다. 실제로 태스크를 보여주는 예시가 충분히 명확하다면 프롬프트에서 요청 사항을 삭제해도 됩니다.

이 전략의 핵심 사항은 다음과 같습니다.

프롬프트에 프롬프트-응답 예시를 포함하면 모델이 응답하는 방법을 배울 수 있습니다.
XML과 유사한 마크업을 사용하여 예시를 마크업합니다.
포함할 프롬프트 수를 실험해 보세요. 모델에 따라 모델 동작을 변경하는 데 효과적이지 않은 예시가 너무 적습니다. 예시가 너무 많으면 모델이 과적합하게 됩니다.
여러 예시에 일관된 형식을 사용합니다.

제로샷 또는 퓨샷 프롬프트

다음 제로샷 프롬프트는 모델에 가장 적합한 설명을 선택하라고 요청합니다.

프롬프트:

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:

응답:

Explanation1

(gemini-pro)

모델이 간결한 응답을 생성해야 하는 사용 사례의 경우 간결한 응답을 선호할 수 있도록 프롬프트에 예시를 포함할 수 있습니다.

다음 프롬프트는 간략한 설명을 선호하는 두 가지 예시를 제공합니다. 응답에서 모델은 이전과 마찬가지로 더 긴 설명(Explanation1)이 아닌 더 짧은 설명 (Explanation2)을 선택하도록 모델에 예시를 통해 안내가 제공된 것을 볼 수 있습니다.

프롬프트:

Please choose the best explanation to the question:

Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
Answer: Explanation1

응답:

Explanation2

(gemini-pro)

최적의 예시 수 찾기

프롬프트에서 가장 원하는 결과를 제공할 예시 수를 실험해볼 수 있습니다. PaLM 및 Gemini과 같은 모델은 종종 몇 가지 예시를 사용하여 패턴을 선택하지만, 원하는 결과를 얻기 위한 예시 수에 대해 실험해야 할 수 있습니다. BERT와 같은 더 간단한 모델의 경우 더 많은 예시가 필요할 수 있습니다. 하지만 너무 많은 예시를 포함하면 모델이 예시에 대한 응답에 과적합하게 될 수 있습니다.

XML과 유사한 형식을 사용하여 퓨샷 예시 마크업

분류 결과를 직접 가져올 수 있는 기존 ML 모델과 달리 분류 질문에 대한 LLM의 답변이 응답에 삽입됩니다. LLM 응답을 더 효과적으로 파싱하기 위해 구조화된 퓨샷 예시를 사용하여 LLM에 응답의 패턴을 학습시킵니다. 다음과 같은 구조를 사용하면 입력 텍스트에 비슷한 패턴의 단어가 포함될 수 있고 모델에 혼동을 일으킬 수 있으므로 문제가 됩니다.

프롬프트:

input: ABC
output: XYZ

다음과 같은 이유로 XML 스타일 마크업을 사용하여 요청 사항 블록을 구분하는 것이 더 효과적입니다.

텍스트에 XML 태그가 표시되는 경우는 드뭅니다.
특정 XML 태그 이름을 정의하여 고유하게 만들 수 있습니다.
Google에서는 웹페이지를 분류하기 전에 원시 HTML 콘텐츠에서 모든 XML 태그를 삭제합니다.

프롬프트:


Please choose the best explanation to the question:

<examples>
  <example1>
    <input>
      Question: Why is sky blue?
      Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
      wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
      blue.
      Explanation2: Due to Rayleigh scattering effect.
    <input>
    <output>
      Answer: Explanation2
    </output>
  </example1>
  <example2>
    <input>
      Question: What is the cause of earthquakes?
      Explanation1: Sudden release of energy in the Earth's crust.
      Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
      release of energy that creates seismic waves that can shake the ground and cause damage.
    </input>
    <output>
      Answer: Explanation1
    </output>
  <example2>
</examples>

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:

응답:

Explanation2

(gemini-pro)