InMemory Cache

InMemory Cache ๋…ธ๋“œ๋Š” ์‹คํ–‰ ์ค‘ ์ƒ์„ฑ๋˜๋Š” ๋ฐ์ดํ„ฐ๋ฅผ ์ผ์‹œ์ ์œผ๋กœ ๋ฉ”๋ชจ๋ฆฌ์— ์ €์žฅํ•˜์—ฌ, ์ดํ›„ ๋…ธ๋“œ์—์„œ ์žฌ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•˜๋Š” ์บ์‹œ ๊ธฐ๋Šฅ ๋…ธ๋“œ์ž…๋‹ˆ๋‹ค. ๋ณต์žกํ•œ ํŒŒ์ดํ”„๋ผ์ธ์—์„œ ๋™์ผํ•œ ๊ณ„์‚ฐ ๊ฒฐ๊ณผ๋ฅผ ์—ฌ๋Ÿฌ ๋ฒˆ ์ฐธ์กฐํ•ด์•ผ ํ•  ๋•Œ, ์„ฑ๋Šฅ ์ตœ์ ํ™” ๋ฐ ์ค‘๋ณต ์ฒ˜๋ฆฌ ๋ฐฉ์ง€๋ฅผ ์œ„ํ•ด ์‚ฌ์šฉ๋ฉ๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • ๋ฐ์ดํ„ฐ ์ž„์‹œ ์ €์žฅ: ๋…ธ๋“œ ์‹คํ–‰ ์ค‘ ์ƒ์„ฑ๋œ ๊ฒฐ๊ณผ๋ฅผ ๋ฉ”๋ชจ๋ฆฌ์— ์บ์‹ฑ

  • ์žฌ์‚ฌ์šฉ ๊ฐ€๋Šฅ: ๋™์ผ ์„ธ์…˜ ๋‚ด์—์„œ ๋‹ค๋ฅธ ๋…ธ๋“œ๊ฐ€ ์ด ๋ฐ์ดํ„ฐ๋ฅผ ๋‹ค์‹œ ํ™œ์šฉ ๊ฐ€๋Šฅ

  • ์—ฐ๊ฒฐ ๊ฐ„์†Œํ™”: ์ค‘๊ฐ„ ๊ฒฐ๊ณผ๋ฅผ ๋ฐ˜๋ณต ๊ณ„์‚ฐํ•˜์ง€ ์•Š๊ณ  ํšจ์œจ์ ์œผ๋กœ ์ „๋‹ฌ

WindyFlo InMemory Cahce

์ž…๋ ฅ๊ฐ’ (Inputs)

์—†์Œ โ€ป ์ž…๋ ฅ ์—†์ด ๋‚ด๋ถ€ ์บ์‹œ ๊ตฌ์กฐ์— ๋”ฐ๋ผ ์ž๋™์œผ๋กœ ์—ฐ๊ฒฐ๋œ ๋…ธ๋“œ ์ถœ๋ ฅ์„ ์ €์žฅํ•ฉ๋‹ˆ๋‹ค.


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

InMemoryCache

๋ฉ”๋ชจ๋ฆฌ์— ์ €์žฅ๋œ ๋ฐ์ดํ„ฐ๋ฅผ ์ถœ๋ ฅํ•˜์—ฌ ๋‹ค๋ฅธ ๋…ธ๋“œ์—์„œ ์žฌํ™œ์šฉํ•  ์ˆ˜ ์žˆ๋„๋ก ์ œ๊ณต


ํ™œ์šฉ ์˜ˆ์‹œ

  1. ์ค‘๋ณต ๋ฐ์ดํ„ฐ ์ฐธ์กฐ ๋ฐฉ์ง€ โ†’ LLM์—์„œ ์ƒ์„ฑ๋œ ์ค‘๊ฐ„ ๊ฒฐ๊ณผ๋ฅผ ์บ์‹œ์— ์ €์žฅ โ†’ ํ›„์† ๋…ธ๋“œ์—์„œ ๊ทธ๋Œ€๋กœ ์‚ฌ์šฉ

  2. ํŒŒ์ดํ”„๋ผ์ธ ์„ฑ๋Šฅ ์ตœ์ ํ™” โ†’ ๊ณ ๋น„์šฉ ๊ณ„์‚ฐ(์˜ˆ: ๋Œ€ํ˜• ๋ชจ๋ธ ์ถ”๋ก  ๊ฒฐ๊ณผ)์„ ์บ์‹ฑํ•˜์—ฌ ์—ฌ๋Ÿฌ ๋…ธ๋“œ์—์„œ ์žฌ์‚ฌ์šฉ

  3. ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ํŒŒ์ดํ”„๋ผ์ธ ๋‚ด ๊ณต์œ  โ†’ ๊ฐ™์€ ๊ฒฐ๊ณผ๋ฅผ ์—ฌ๋Ÿฌ ๊ฒฝ๋กœ์—์„œ ๋™์‹œ์— ์ฐธ์กฐํ•  ๋•Œ ์œ ์šฉ


์‚ฌ์šฉ ํŒ

  • InMemory Cache๋Š” ์„ธ์…˜ ๋‚ด์—์„œ๋งŒ ์œ ์ง€๋ฉ๋‹ˆ๋‹ค. ์„ธ์…˜์ด ์ข…๋ฃŒ๋˜๋ฉด ์บ์‹œ๋„ ์†Œ๋ฉธ๋ฉ๋‹ˆ๋‹ค.

  • ๋ฐ˜๋ณต ์‹คํ–‰ ์‹œ ํ•ญ์ƒ ์ตœ์‹  ๊ฒฐ๊ณผ๋ฅผ ์‚ฌ์šฉํ•˜๋ ค๋ฉด, ์บ์‹œ๊ฐ€ ์•„๋‹Œ ์ง์ ‘ ์—ฐ๊ฒฐ์„ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค.

  • ๋‹จ์ผ ๊ฒฐ๊ณผ๋ฅผ ์—ฌ๋Ÿฌ ๊ณณ์— ์—ฐ๊ฒฐํ•ด์•ผ ํ•˜๋Š” ๊ตฌ์กฐ์—์„œ Branch ๋…ธ๋“œ ์—†์ด ์บ์‹œ๋กœ ๋ถ„๊ธฐ ์ฒ˜๋ฆฌ๊ฐ€ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.


InMemory Cache๋Š” ๋ณต์žกํ•œ ํŒŒ์ดํ”„๋ผ์ธ์„ ํšจ์œจ์ ์œผ๋กœ ๊ตฌ์„ฑํ•˜๊ณ  ์‹คํ–‰ ์†๋„๋ฅผ ๋†’์ผ ์ˆ˜ ์žˆ๋Š” ๊ฐ„๋‹จํ•˜์ง€๋งŒ ๊ฐ•๋ ฅํ•œ ์œ ํ‹ธ๋ฆฌํ‹ฐ ๋…ธ๋“œ์ž…๋‹ˆ๋‹ค.

Last updated