Buffer Memory

Buffer Memory ๋…ธ๋“œ๋Š” ์„ธ์…˜ ๋™์•ˆ ์‚ฌ์šฉ์ž์™€ ์—์ด์ „ํŠธ ๊ฐ„์˜ ๋Œ€ํ™” ๊ธฐ๋ก์„ ์ˆœ์ฐจ์ ์œผ๋กœ ์ €์žฅํ•˜๋ฉฐ, ์ด์ „ ๋Œ€ํ™”๋ฅผ ๊ทธ๋Œ€๋กœ ์œ ์ง€ํ•˜๋Š” ๊ฐ„๋‹จํ•œ ๋ฉ”๋ชจ๋ฆฌ ๊ตฌ์กฐ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ๋ณต์žกํ•œ ์„ธ์…˜ ๊ด€๋ฆฌ ์—†์ด๋„ ์ผ์‹œ์ ์ธ ๋Œ€ํ™” ํ๋ฆ„์„ ์œ ์ง€ํ•˜๋Š” ๋ฐ ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • ๊ฐ€์žฅ ๊ธฐ๋ณธ์ ์ธ ํ˜•ํƒœ์˜ ๋ฉ”๋ชจ๋ฆฌ ๊ตฌ์กฐ๋กœ, ๋Œ€ํ™” ๋‚ด์šฉ์„ ์ˆœ์ฐจ์ ์œผ๋กœ ๊ธฐ๋ก

  • ์ง€์ •๋œ Memory Key๋ฅผ ํ†ตํ•ด LLM๊ณผ์˜ ์—ฐ๊ฒฐ์—์„œ ์ผ๊ด€๋œ ํžˆ์Šคํ† ๋ฆฌ ์ œ๊ณต

  • Session ID ๊ธฐ๋ฐ˜์œผ๋กœ ๋ฉ”๋ชจ๋ฆฌ ์„ธ์…˜์„ ๋ถ„๋ฆฌํ•˜์—ฌ ๋‹ค์ค‘ ์‚ฌ์šฉ์ž ๊ตฌ๋ถ„ ๊ฐ€๋Šฅ

  • ๋น ๋ฅด๊ณ  ๊ฐ€๋ฒผ์šด ๊ตฌํ˜„์ด ๊ฐ€๋Šฅํ•˜๋ฉฐ ํ…Œ์ŠคํŠธ์— ์ ํ•ฉ

WindyFlo Buffer Memory
WindyFlo Buffer Memory Parameters

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

Session Id

์‚ฌ์šฉ์ž ๋˜๋Š” ์„ธ์…˜ ์‹๋ณ„์ž (๋นˆ ๊ฐ’์ผ ๊ฒฝ์šฐ ๊ณ ์ • ์„ธ์…˜์œผ๋กœ ๋™์ž‘)

์„ ํƒ

Memory Key

LLM ์—ฐ๊ฒฐ ์‹œ ์‚ฌ์šฉํ•  ํžˆ์Šคํ† ๋ฆฌ ํ‚ค (์˜ˆ: chat_history)

ํ•„์ˆ˜


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

BufferMemory

๋Œ€ํ™” ํžˆ์Šคํ† ๋ฆฌ๋ฅผ ํฌํ•จํ•œ ๋ฉ”๋ชจ๋ฆฌ ๊ฐ์ฒด ๋ฐ˜ํ™˜


ํ™œ์šฉ ์˜ˆ์‹œ

  • ์งง์€ ์งˆ๋ฌธ-์‘๋‹ต ํ˜•ํƒœ์˜ ์ฑ—๋ด‡ ํ…Œ์ŠคํŠธ์šฉ ๋ฉ”๋ชจ๋ฆฌ ์ €์žฅ

  • Session ID ๊ธฐ๋ฐ˜์˜ ๋ฉ€ํ‹ฐ ์œ ์ € ๊ฐ„ ๋Œ€ํ™” ๊ตฌ๋ถ„ ์ฒ˜๋ฆฌ

  • Agent์™€ Tool ๊ฐ„ ์—ฐ๋™ ์‹œ ๊ฐ„๋‹จํ•œ ์ปจํ…์ŠคํŠธ ๊ณต์œ  ๊ตฌํ˜„

  • Streamlit, Gradio ๋“ฑ ํ”„๋ก ํŠธ์—”๋“œ UI ๊ธฐ๋ฐ˜ ์ฑ—๋ด‡๊ณผ์˜ ๋น ๋ฅธ ์—ฐ๋™


์‚ฌ์šฉ ํŒ

  • ๋™์ผํ•œ ์„ธ์…˜ ๋‚ด ๋Œ€ํ™” ํ๋ฆ„์„ ์œ ์ง€ํ•˜๊ณ  ์‹ถ๋‹ค๋ฉด ๊ณ ์ •๋œ Session Id๋ฅผ ์„ค์ •ํ•˜์‹ญ์‹œ์˜ค.

  • Memory Key๋Š” LLM ๋…ธ๋“œ์—์„œ๋„ ๋™์ผํ•˜๊ฒŒ ์ง€์ •ํ•ด์ฃผ์–ด์•ผ ์ผ๊ด€๋œ ๊ฒฐ๊ณผ๋ฅผ ์–ป์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • ๋Œ€ํ™” ๊ธธ์ด๊ฐ€ ๊ธธ์–ด์งˆ ๊ฒฝ์šฐ, LLM์˜ ์ปจํ…์ŠคํŠธ ํ•œ๋„๋ฅผ ์ดˆ๊ณผํ•˜์ง€ ์•Š๋„๋ก ์ฃผ์˜ํ•˜์‹ญ์‹œ์˜ค.


์ฃผ์˜์‚ฌํ•ญ

  • ๋ฉ”๋ชจ๋ฆฌ๋Š” ์„ธ์…˜์ด ์ข…๋ฃŒ๋˜๋ฉด ์ดˆ๊ธฐํ™”๋˜๋ฉฐ, ์žฅ๊ธฐ ์ €์žฅ ๊ธฐ๋Šฅ์ด ์—†์Šต๋‹ˆ๋‹ค.

  • ์™ธ๋ถ€ DB๋‚˜ ํŒŒ์ผ๋กœ ์ €์žฅ๋˜์ง€ ์•Š๊ธฐ ๋•Œ๋ฌธ์— ๋ฐ์ดํ„ฐ ์˜์†์„ฑ์ด ํ•„์š”ํ•  ๊ฒฝ์šฐ ๋‹ค๋ฅธ Memory ๋…ธ๋“œ๋ฅผ ์‚ฌ์šฉํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

  • Token ์ˆ˜ ์ดˆ๊ณผ๋กœ ์ธํ•ด LLM ์‘๋‹ต์ด ๋ˆ„๋ฝ๋˜๋Š” ๊ฒฝ์šฐ๊ฐ€ ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Last updated