InMemory Embedding Cache

InMemory Embedding Cache ๋…ธ๋“œ๋Š” ์ž„๋ฒ ๋”ฉ ๋ฒกํ„ฐ๋ฅผ ๋ฉ”๋ชจ๋ฆฌ ์ƒ์— ์ €์žฅํ•˜๊ณ , ๋น ๋ฅด๊ฒŒ ์กฐํšŒํ•  ์ˆ˜ ์žˆ๋„๋ก ๊ตฌ์„ฑ๋œ ๊ฒฝ๋Ÿ‰ํ˜• ๋ฒกํ„ฐ ์ €์žฅ์†Œ์ž…๋‹ˆ๋‹ค. Retriever๋‚˜ ๊ฒ€์ƒ‰ ๊ธฐ๋ฐ˜ Q&A ์‹œ์Šคํ…œ์—์„œ, ์ž„์‹œ ๋ฒกํ„ฐ ์ €์žฅ์†Œ๋กœ ํ™œ์šฉํ•˜๊ฑฐ๋‚˜ ํ…Œ์ŠคํŠธ์šฉ ์บ์‹œ ๊ณต๊ฐ„์œผ๋กœ ์‚ฌ์šฉ๋ฉ๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • ์„ธ์…˜ ๋‚ด ์ž„๋ฒ ๋”ฉ ์บ์‹œ: ์™ธ๋ถ€ DB ์—†์ด ๋ฉ”๋ชจ๋ฆฌ์— ์ง์ ‘ ์ž„๋ฒ ๋”ฉ์„ ์ €์žฅ

  • ๋ฒกํ„ฐ ๊ฒ€์ƒ‰ ๊ธฐ๋ฐ˜ ๋…ธ๋“œ์™€ ์—ฐ๊ฒฐ: Retriever Tool ๋“ฑ๊ณผ ์—ฐ๋™ ๊ฐ€๋Šฅ

  • Namespace ๊ธฐ๋ฐ˜ ๋ถ„๋ฆฌ ์ง€์›: ์„œ๋กœ ๋‹ค๋ฅธ ๋ฐ์ดํ„ฐ์…‹์„ ๊ตฌ๋ถ„ํ•ด ์ €์žฅ ๊ฐ€๋Šฅ

  • ๋น ๋ฅธ ํ…Œ์ŠคํŠธ ๋ฐ ๋ฐ˜๋ณต ํ•™์Šต ์‹œ ์œ ์šฉ

WindyFlo InMemory Embedding Cache
WindyFlo InMemory Embedding Cache Parameters

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

Embeddings

์ €์žฅํ•  ์ž„๋ฒ ๋”ฉ ๋ฒกํ„ฐ ๊ฐ์ฒด์ž…๋‹ˆ๋‹ค. ์ผ๋ฐ˜์ ์œผ๋กœ Embedding ๋…ธ๋“œ ๋˜๋Š” ๋ฌธ์„œ ์ž„๋ฒ ๋”ฉ ์ƒ์„ฑ ๋…ธ๋“œ์—์„œ ์—ฐ๊ฒฐ

ํ•„์ˆ˜


ํŒŒ๋ผ๋ฏธํ„ฐ (Parameters)

ํ•ญ๋ชฉ
์„ค๋ช…

Namespace

(์„ ํƒ) ์ €์žฅ๋œ ์ž„๋ฒ ๋”ฉ์„ ๋ถ„๋ฆฌ ๊ด€๋ฆฌํ•˜๊ธฐ ์œ„ํ•œ ๊ณ ์œ  ์ด๋ฆ„์ž…๋‹ˆ๋‹ค. ๋™์ผํ•œ ์บ์‹œ์— ์—ฌ๋Ÿฌ ๋ฐ์ดํ„ฐ ๊ทธ๋ฃน์„ ์ €์žฅํ•  ๋•Œ ์‚ฌ์šฉ


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

InMemoryEmbeddingCache

๋ฒกํ„ฐ ๊ฒ€์ƒ‰์ด ๊ฐ€๋Šฅํ•œ ์บ์‹œํ˜• ์ž„๋ฒ ๋”ฉ ์ €์žฅ์†Œ ๊ฐ์ฒด๋กœ ์ถœ๋ ฅ๋ฉ๋‹ˆ๋‹ค. ์ดํ›„ Retriever Tool ๋“ฑ์— ์—ฐ๊ฒฐ ๊ฐ€๋Šฅ


ํ™œ์šฉ ์˜ˆ์‹œ

  1. ์ž„์‹œ ๋ฌธ์„œ ๊ฒ€์ƒ‰ ํ…Œ์ŠคํŠธ โ†’ ๋ฌธ์„œ โ†’ ์ž„๋ฒ ๋”ฉ โ†’ InMemoryEmbeddingCache โ†’ Retriever โ†’ Q&A ์—์ด์ „ํŠธ โ†’ ์™ธ๋ถ€ DB ์—†์ด ๋น ๋ฅด๊ฒŒ ๊ฒ€์ƒ‰ ๊ธฐ๋ฐ˜ ์งˆ์˜์‘๋‹ต ๊ตฌํ˜„

  2. ์„ธ์…˜ ๋‚ด ๋ฒกํ„ฐ ์žฌ์‚ฌ์šฉ โ†’ ์‚ฌ์šฉ์ž ๋Œ€ํ™” ์ค‘ ์ˆ˜์ง‘ํ•œ ์ฝ˜ํ…์ธ ๋ฅผ ์‹ค์‹œ๊ฐ„์œผ๋กœ ์ž„๋ฒ ๋”ฉํ•˜๊ณ  ์บ์‹œ์— ์ €์žฅ โ†’ ๋‹ค์Œ ์งˆ๋ฌธ์—์„œ ์ด๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ๋น ๋ฅธ ๊ฒ€์ƒ‰ ์ˆ˜ํ–‰

  3. Namespace ๋ถ„๋ฆฌ ํ™œ์šฉ โ†’ ์˜ˆ: namespace = "sales" โ†’ ์˜์—…์šฉ ๋ฐ์ดํ„ฐ โ†’ namespace = "support" โ†’ ๊ณ ๊ฐ์ง€์›์šฉ ๋ฐ์ดํ„ฐ ๋ถ„๋ฆฌ


์ฃผ์˜์‚ฌํ•ญ

  • InMemory ๊ธฐ๋ฐ˜์ด๋ฏ€๋กœ ์„ธ์…˜ ์ข…๋ฃŒ ์‹œ ์บ์‹œ ๋ฐ์ดํ„ฐ๋Š” ๋ชจ๋‘ ์†Œ๋ฉธ๋ฉ๋‹ˆ๋‹ค. ์žฅ๊ธฐ ์ €์žฅ์šฉ์ด ์•„๋‹˜

  • ๋Œ€์šฉ๋Ÿ‰ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ์‹œ ๋ถ€์ ํ•ฉ, ์ˆ˜๋ฐฑ~์ˆ˜์ฒœ ๋ฌธ์„œ ์ˆ˜์ค€์˜ ํ…Œ์ŠคํŠธ ๋˜๋Š” ๋‹จ๊ธฐ ์ €์žฅ์— ์ ํ•ฉ

  • Namespace๋ฅผ ์ง€์ •ํ•˜์ง€ ์•Š์œผ๋ฉด ๊ธฐ๋ณธ ์˜์—ญ์— ์ €์žฅ๋˜๋ฉฐ, ์—ฌ๋Ÿฌ ์ž‘์—…์ด ์„ž์ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค


InMemory Embedding Cache๋Š” WindyFlo์—์„œ ๋น ๋ฅธ ๊ฒ€์ƒ‰ ํ…Œ์ŠคํŠธ ๋˜๋Š” ์ž„์‹œ ๋ฒกํ„ฐ ์ €์žฅ์†Œ๋ฅผ ๊ตฌํ˜„ํ•  ๋•Œ ์ด์ƒ์ ์ธ ๋…ธ๋“œ์ž…๋‹ˆ๋‹ค. Retriever Tool๊ณผ ํ•จ๊ป˜ ์‚ฌ์šฉํ•˜๋ฉด ๊ฐ•๋ ฅํ•œ ๋ฌธ์„œ ๊ธฐ๋ฐ˜ ์งˆ์˜์‘๋‹ต ์‹œ์Šคํ…œ์„ ๊ตฌ์ถ•ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Last updated