LangFuse Prompt Template

LangFuse์— ๋“ฑ๋ก๋œ ํ”„๋กฌํ”„ํŠธ ํ…œํ”Œ๋ฆฟ์„ ๋ถˆ๋Ÿฌ์™€ LLM ํ˜ธ์ถœ ์‹œ ์ผ๊ด€๋˜๊ณ  ์ถ”์  ๊ฐ€๋Šฅํ•œ ํ”„๋กฌํ”„ํŠธ ๊ด€๋ฆฌ๊ฐ€ ๊ฐ€๋Šฅํ•˜๋„๋ก ๊ตฌ์„ฑํ•˜๋Š” ๋…ธ๋“œ์ž…๋‹ˆ๋‹ค. ํ”„๋กฌํ”„ํŠธ ๋ฒ„์ „ ๊ด€๋ฆฌ ๋ฐ A/B ํ…Œ์ŠคํŠธ๊ฐ€ ํ•„์š”ํ•œ ๊ฒฝ์šฐ ์œ ์šฉํ•˜๋ฉฐ, LangFuse ํ”Œ๋žซํผ๊ณผ ์—ฐ๋™ํ•ด ํ…œํ”Œ๋ฆฟ ๊ธฐ๋ฐ˜ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์‰ฝ๊ฒŒ ํ˜ธ์ถœํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • LangFuse์— ์ €์žฅ๋œ ํ”„๋กฌํ”„ํŠธ ํ…œํ”Œ๋ฆฟ์„ ๋…ธ๋“œ๋ฅผ ํ†ตํ•ด ์ง์ ‘ ๋ถˆ๋Ÿฌ์™€ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Œ

  • Prompt Name๋งŒ ์ž…๋ ฅํ•˜๋ฉด LangFuse ๋‚ด ํ…œํ”Œ๋ฆฟ์„ ์ฆ‰์‹œ ํ˜ธ์ถœ ๊ฐ€๋Šฅ

  • ํฌ๋งท ๋ณ€์ˆ˜ ๊ฐ’(Format Prompt Values)์„ ์ง€์ •ํ•ด ํ…œํ”Œ๋ฆฟ ๋‚ด ๋ณ€์ˆ˜๋ฅผ ๋™์ ์œผ๋กœ ์น˜ํ™˜

  • LangFuse์˜ ๋ฒ„์ „ ๊ด€๋ฆฌ, ๋กœ๊น…, ์„ฑ๋Šฅ ๋ถ„์„ ๊ธฐ๋Šฅ๊ณผ ํ†ตํ•ฉ ๊ฐ€๋Šฅ

WindyFlo LangFuse Prompt Template
WindyFlo LangFuse Prompt Template Values

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

Langfuse Credential

LangFuse API ์ธ์ฆ์„ ์œ„ํ•œ Credential์— ๋“ฑ๋ก๋œ ํ•ญ๋ชฉ ์„ ํƒ

ํ•„์ˆ˜

Prompt Name

LangFuse์— ์ €์žฅ๋œ ํ…œํ”Œ๋ฆฟ ์ด๋ฆ„. ์ •ํ™•ํžˆ ์ผ์น˜ํ•ด์•ผ ํ…œํ”Œ๋ฆฟ ๋ถˆ๋Ÿฌ์˜ค๊ธฐ ๊ฐ€๋Šฅ

ํ•„์ˆ˜

Format Prompt Values

ํ”„๋กฌํ”„ํŠธ ๋‚ด ์‚ฌ์šฉ๋˜๋Š” ๋ณ€์ˆ˜์— ๋Œ€ํ•œ ์‹ค์ œ ๊ฐ’ ์ง€์ • (JSON ํ˜•์‹)

์„ ํƒ


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

PromptTemplate

LangFuse์—์„œ ๋ถˆ๋Ÿฌ์˜จ ํ”„๋กฌํ”„ํŠธ ํ…œํ”Œ๋ฆฟ ๊ฐ์ฒด. ์ดํ›„ LLM ๋…ธ๋“œ์— ์—ฐ๊ฒฐํ•ด ์‚ฌ์šฉ


ํ™œ์šฉ ์˜ˆ์‹œ

  • ์šด์˜ ํ™˜๊ฒฝ์—์„œ ํ”„๋กฌํ”„ํŠธ ๋ฒ„์ „๋ณ„ ํ…Œ์ŠคํŠธ(A/B Test) ๋ฅผ ์ง„ํ–‰ํ•  ๋•Œ

  • ๋งˆ์ผ€ํŒ…/๊ณ ๊ฐ์ง€์› ๋“ฑ์—์„œ ํ…œํ”Œ๋ฆฟํ™”๋œ ํ”„๋กฌํ”„ํŠธ๋ฅผ ๋ฐ˜๋ณต ํ˜ธ์ถœํ•ด์•ผ ํ•  ๋•Œ

  • ํ”„๋กฌํ”„ํŠธ ๋ณ€๊ฒฝ ์ด๋ ฅ์„ ์ถ”์ ํ•˜๊ณ ์ž ํ•  ๋•Œ (LangFuse ๋กœ๊ทธ ๊ธฐ๋ฐ˜)

  • ํ”„๋กฌํ”„ํŠธ ์„ฑ๋Šฅ ๋ชจ๋‹ˆํ„ฐ๋ง ๋ฐ ์ตœ์ ํ™”๋ฅผ ์œ„ํ•ด LangFuse ์—ฐ๋™ ์‹œ


์‚ฌ์šฉ ํŒ

  • Prompt Name์€ LangFuse ๋‚ด ์ •ํ™•ํ•œ ํ…œํ”Œ๋ฆฟ ์ด๋ฆ„๊ณผ ์ผ์น˜ํ•ด์•ผ ํ•˜๋ฉฐ, ์˜คํƒˆ์ž ์ž…๋ ฅ ์‹œ ๋ถˆ๋Ÿฌ์˜ค๊ธฐ์— ์‹คํŒจํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • Format Prompt Values๋Š” { "customer_name": "Alice" } ํ˜•์‹์œผ๋กœ ์ž‘์„ฑํ•˜์—ฌ ํ…œํ”Œ๋ฆฟ ๋‚ด ๋ณ€์ˆ˜์™€ ์ •ํ™•ํžˆ ๋งค์นญ๋˜์–ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

  • LangFuse Credential์€ ์‚ฌ์ „ ๋ฐœ๊ธ‰๋œ API Key๋ฅผ WindyFlo์˜ Credential์— ๋“ฑ๋ก ํ›„ ์‚ฌ์šฉํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.


์ฃผ์˜์‚ฌํ•ญ

  • LangFuse ํ”Œ๋žซํผ์— ํ…œํ”Œ๋ฆฟ์ด ์‚ฌ์ „์— ๋“ฑ๋ก๋˜์–ด ์žˆ์–ด์•ผ ์ •์ƒ ์ž‘๋™

  • Prompt Name ๋ถˆ์ผ์น˜ ๋˜๋Š” Credential ๋ฏธ์„ค์ • ์‹œ ์˜ค๋ฅ˜ ๋ฐœ์ƒ

  • LangFuse API ํ˜ธ์ถœ ์‹คํŒจ ์‹œ ํ”„๋กฌํ”„ํŠธ ๋กœ๋”ฉ์— ์‹คํŒจํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ๋„คํŠธ์›Œํฌ ์ƒํƒœ์— ๋”ฐ๋ผ ์ง€์—ฐ ๊ฐ€๋Šฅ์„ฑ ์žˆ์Œ

Last updated