Few Shot Prompt Template

LLM에 μ μ ˆν•œ μ˜ˆμ‹œ(few-shot examples)λ₯Ό μ œκ³΅ν•˜μ—¬ μ›ν•˜λŠ” 좜λ ₯ ν˜•νƒœλ₯Ό μœ λ„ν•˜λŠ” ν”„λ‘¬ν”„νŠΈ ν…œν”Œλ¦Ώ ꡬ성 λ…Έλ“œμž…λ‹ˆλ‹€. 사전 μ •μ˜λœ μž…λ ₯-좜λ ₯ 예제λ₯Ό 기반으둜 ν”„λ‘¬ν”„νŠΈλ₯Ό μžλ™ μƒμ„±ν•˜λ©°, μΌκ΄€λœ 좜λ ₯ ν˜•μ‹ 확보에 μœ λ¦¬ν•©λ‹ˆλ‹€. λΆ„λ₯˜, λ³€ν™˜, μš”μ•½ λ“± λ‹€μ–‘ν•œ μž‘μ—…μ— μ ν•©ν•©λ‹ˆλ‹€.


μ£Όμš” κΈ°λŠ₯

  • μ—¬λŸ¬ 개의 μž…λ ₯-좜λ ₯ 예제λ₯Ό ν™œμš©ν•΄ few-shot prompting ꡬ쑰 μžλ™ 생성

  • μ˜ˆμ œμ™€ μ‚¬μš©μž μž…λ ₯ 사이에 Prefix, Suffix, Separator λ“± κ΅¬μ‘°ν™”λœ ν…μŠ€νŠΈ μ‚½μž… κ°€λŠ₯

  • f-string λ“± ν…œν”Œλ¦Ώ ν˜•μ‹ μ§€μ •μœΌλ‘œ LLM과의 ν˜Έν™˜μ„± κ°•ν™”

  • 반볡적이고 μ •ν˜•ν™”λœ νƒœμŠ€ν¬μ— μœ λ¦¬ν•œ ν”„λ‘¬ν”„νŠΈ ꡬ성 지원

  • FewShotPromptTemplate 객체둜 좜λ ₯λ˜μ–΄ λ‹€λ₯Έ λ…Έλ“œμ™€ 연계 κ°€λŠ₯

WindyFlo Few Shot Prompt Template

μž…λ ₯κ°’ (Inputs)

ν•­λͺ©
μ„€λͺ…
ν•„μˆ˜ μ—¬λΆ€

Example Prompt

각 μ˜ˆμ œμ— μ‚¬μš©λ  ν…œν”Œλ¦Ώ ν˜•μ‹ (예: "Word: {word}\nAntonym: {antonym}")

ν•„μˆ˜

Examples

JSON ν˜•μ‹μ˜ 예제 리슀트. λ³€μˆ˜λͺ…이 ν…œν”Œλ¦Ώκ³Ό μΌμΉ˜ν•΄μ•Ό 함

ν•„μˆ˜

Prefix

예제 리슀트 상단에 μ‚½μž…ν•  μ•ˆλ‚΄ 문ꡬ

선택

Suffix

μ‚¬μš©μž μž…λ ₯ μ „ μ‚½μž…λ  문ꡬ. 일반적으둜 ν”„λ‘¬ν”„νŠΈ μ§€μ‹œλ¬Έ 포함

선택

Example Separator

각 예제 κ°„ κ΅¬λΆ„μž (예: )

ν•„μˆ˜

Template Format

ν…œν”Œλ¦Ώ λ Œλ”λ§ 방식 선택 (f-string λ˜λŠ” jinja2)

ν•„μˆ˜


좜λ ₯κ°’ (Outputs)

좜λ ₯ ν•­λͺ©
μ„€λͺ…

FewShotPromptTemplate

κ΅¬μ„±λœ few-shot ν”„λ‘¬ν”„νŠΈ 객체. LLM 호좜 λ…Έλ“œμ— μ—°κ²°ν•˜μ—¬ ν™œμš© κ°€λŠ₯


ν™œμš© μ˜ˆμ‹œ

  • 단어 μœ μ˜μ–΄/λ°˜μ˜μ–΄ μΆ”λ‘  예제λ₯Ό ν™œμš©ν•œ μ‚¬μ „ν•™μŠ΅ μ—†λŠ” κ°„λ‹¨ν•œ μ–Έμ–΄ νƒœμŠ€ν¬

  • λ¬Έμž₯ λΆ„λ₯˜ μ˜ˆμ‹œλ₯Ό μ œκ³΅ν•˜μ—¬ λΆ„λ₯˜ νƒœμŠ€ν¬ 정밀도 ν–₯상

  • 데이터 λ³€ν™˜ μ˜ˆμ‹œλ₯Ό μ œκ³΅ν•˜μ—¬ μž…λ ₯ ν˜•μ‹ 톡일 (예: λ‚ μ§œ 포맷 λ³€κ²½, λͺ…함 정보 μΆ”μΆœ λ“±)

  • μ—¬λŸ¬ 예제λ₯Ό ν¬ν•¨μ‹œμΌœ LLM의 μΌκ΄€λœ 좜λ ₯ 포맷 확보가 ν•„μš”ν•œ 상황


μ‚¬μš© 팁

  • Example Prompt λ‚΄ λ³€μˆ˜λͺ…은 λ°˜λ“œμ‹œ Examples의 key와 μΌμΉ˜ν•΄μ•Ό ν•©λ‹ˆλ‹€.

  • Prefixμ—λŠ” μž‘μ—… μ„€λͺ…을 κ°„λ‹¨νžˆ κΈ°μž…ν•˜κ³ , Suffixμ—λŠ” μ‚¬μš©μžμ˜ μ‹€μ œ μž…λ ₯ μœ„μΉ˜λ₯Ό μœ λ„ν•˜λŠ” ν˜•μ‹μ„ μ‚¬μš©ν•˜λŠ” 것이 μΌλ°˜μ μž…λ‹ˆλ‹€.

  • SeparatorλŠ” λ˜λŠ” 처럼 μ€„λ°”κΏˆμ„ ν¬ν•¨ν•˜λŠ” 경우 가독성과 좜λ ₯ μ•ˆμ •μ„± μΈ‘λ©΄μ—μ„œ μœ λ¦¬ν•©λ‹ˆλ‹€.


μ£Όμ˜μ‚¬ν•­

  • Examples μž…λ ₯은 JSON λ°°μ—΄λ‘œ μ œκ³΅λ˜μ–΄μ•Ό ν•˜λ©°, λ³€μˆ˜λͺ…이 ν…œν”Œλ¦Ώκ³Ό λΆˆμΌμΉ˜ν•  경우 였λ₯˜ λ°œμƒ

  • Template Format은 μ§€μ›λ˜λŠ” ν˜•μ‹(f-string, jinja2) 쀑 ν•˜λ‚˜λ§Œ μ‚¬μš©ν•΄μ•Ό ν•˜λ©°, 잘λͺ»λœ 포맷 μ‚¬μš© μ‹œ λ Œλ”λ§ μ‹€νŒ¨

  • μ˜ˆμ œκ°€ λ„ˆλ¬΄ λ§Žκ±°λ‚˜ ν”„λ‘¬ν”„νŠΈκ°€ λ„ˆλ¬΄ κΈΈμ–΄μ§ˆ 경우 LLM의 토큰 ν•œλ„λ₯Ό μ΄ˆκ³Όν•  수 있음

Last updated