Multi Retrieval QA Chain

Multi Retrieval QA Chain ๋…ธ๋“œ๋Š” ํ•˜๋‚˜ ์ด์ƒ์˜ ๋ฒกํ„ฐ์Šคํ† ์–ด์—์„œ ์ •๋ณด๋ฅผ ๊ฒ€์ƒ‰ํ•˜์—ฌ, LLM์ด ์ข…ํ•ฉ์ ์ธ ์‘๋‹ต์„ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ๋„๋ก ์ง€์›ํ•˜๋Š” QA ์ฒด์ธ์ž…๋‹ˆ๋‹ค. ๋‹ค์ค‘ ๋ฌธ์„œ ์†Œ์Šค์—์„œ ์ •๋ณด๋ฅผ ๋ณ‘ํ•ฉํ•ด ๋‹ต๋ณ€ํ•  ์ˆ˜ ์žˆ๋„๋ก ์„ค๊ณ„๋˜์–ด, ๋‹ค์–‘ํ•œ ์ถœ์ฒ˜ ๊ธฐ๋ฐ˜์˜ ์งˆ์˜์‘๋‹ต ์‹œ๋‚˜๋ฆฌ์˜ค์— ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • ์—ฌ๋Ÿฌ ๊ฐœ์˜ Vector Store Retriever๋กœ๋ถ€ํ„ฐ ์ •๋ณด๋ฅผ ํ†ตํ•ฉ ๊ฒ€์ƒ‰

  • ์งˆ์˜์— ๋”ฐ๋ผ ๊ฐ๊ธฐ ๋‹ค๋ฅธ ๋ฒกํ„ฐ์Šคํ† ์–ด์—์„œ ํ•„์š”ํ•œ ๋ฌธ์„œ๋ฅผ ์ถ”์ถœ

  • LLM์ด ๊ฒ€์ƒ‰๋œ ์ •๋ณด๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ์‘๋‹ต ์ƒ์„ฑ

  • ์ถœ์ฒ˜ ๋ฐ˜ํ™˜ ์—ฌ๋ถ€ ์„ค์ • ๊ฐ€๋Šฅ (Return Source Documents)

WindyFlo Multi Retrieval QA Chain

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

Language Model

์งˆ์˜์— ์‘๋‹ตํ•  ์–ธ์–ด ๋ชจ๋ธ (์˜ˆ: OpenAI Chat, Claude ๋“ฑ)

ํ•„์ˆ˜

Vector Store Retriever

๊ฒ€์ƒ‰์— ์‚ฌ์šฉํ•  ํ•˜๋‚˜ ์ด์ƒ์˜ ๋ฒกํ„ฐ์Šคํ† ์–ด ๋ฆฌํŠธ๋ฆฌ๋ฒ„ (์˜ˆ: In-Memory Vector Store, Redis ๋“ฑ)

ํ•„์ˆ˜

Input Moderation

์œ ํ•ดํ•œ ์ž…๋ ฅ๊ฐ’์— ๋Œ€ํ•œ ํ•„ํ„ฐ๋ง ์—ฌ๋ถ€ ์„ค์ •

์„ ํƒ

Return Source Documents

์‘๋‹ต๊ณผ ํ•จ๊ป˜ ์ฐธ์กฐ๋œ ์›๋ฌธ ์ •๋ณด๋ฅผ ๋ฐ˜ํ™˜ํ• ์ง€ ์—ฌ๋ถ€ (ON/OFF ์Šค์œ„์น˜)

์„ ํƒ

โ€ป Vector Store Retriever๋Š” Redis, InMemory Vector Store ๋“ฑ๊ณผ ์—ฐ๊ฒฐ ๊ฐ€๋Šฅ โ€ป ๋ณต์ˆ˜ ๋ฒกํ„ฐ ๋ฆฌํŠธ๋ฆฌ๋ฒ„ ์‚ฌ์šฉ ์‹œ ์ž๋™์œผ๋กœ ๋ณ‘ํ•ฉ๋œ ๊ฒฐ๊ณผ ์ƒ์„ฑ


์ถœ๋ ฅ๊ฐ’ (Outputs)

ํ•ญ๋ชฉ
์„ค๋ช…

MultiRetrievalQAChain

๊ฒ€์ƒ‰ ๊ฒฐ๊ณผ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ์ƒ์„ฑ๋œ ํ…์ŠคํŠธ ์‘๋‹ต (์งˆ์˜ ์‘๋‹ต ๊ฒฐ๊ณผ)


ํ™œ์šฉ ์˜ˆ์‹œ

  • ์‚ฌ๋‚ด ๋ฌธ์„œ + ์™ธ๋ถ€ ์ •์ฑ…๋ฌธ์„œ ํ†ตํ•ฉ ์งˆ์˜์‘๋‹ต

    • HR ์ •์ฑ…์€ Google Drive ๊ธฐ๋ฐ˜ ๋ฒกํ„ฐ์Šคํ† ์–ด, ์—…๋ฌด ๋งค๋‰ด์–ผ์€ PDF ๊ธฐ๋ฐ˜์œผ๋กœ ๋ถ„๋ฆฌ๋˜์–ด ์žˆ์„ ๋•Œ ๋™์‹œ์— ๊ฒ€์ƒ‰

  • ์–ธ์–ด๋ณ„ ๋ฌธ์„œ์—์„œ ๋‹ต๋ณ€ ์ƒ์„ฑ

    • ํ•œ๊ตญ์–ด, ์˜์–ด ๋ฌธ์„œ ๋ฒกํ„ฐ์Šคํ† ์–ด๋ฅผ ๋”ฐ๋กœ ๊ตฌ์„ฑํ•ด ์–ธ์–ด ๋ถˆ๋ฌธ ์ „์ฒด ๋ฌธ์„œ์—์„œ ๊ฒ€์ƒ‰

  • ๊ธฐ์ˆ  ๋ฌธ์„œ + FAQ ๋ณ‘๋ ฌ ์งˆ์˜์‘๋‹ต

    • ๊ณ ๊ฐ ์งˆ๋ฌธ์— ๋Œ€ํ•ด ๊ธฐ์ˆ  ์‚ฌ์–‘์„œ์™€ FAQ๋ฅผ ๋™์‹œ์— ์ฐธ์กฐํ•ด ์ข…ํ•ฉ ๋‹ต๋ณ€ ์ƒ์„ฑ


์‚ฌ์šฉ ํŒ

  • ๋ฒกํ„ฐ์Šคํ† ์–ด๋Š” In-Memory Vector Store, Redis ๋“ฑ๊ณผ ์—ฐ๊ฒฐ ๊ฐ€๋Šฅ

  • ๋ฒกํ„ฐ ๋ฆฌํŠธ๋ฆฌ๋ฒ„ ์ถœ๋ ฅ์ด ์—ฌ๋Ÿฌ ๊ฐœ์ผ ๊ฒฝ์šฐ ์ž๋™์œผ๋กœ ๋ณ‘ํ•ฉ๋˜์–ด ๋™์ž‘

  • Return Source Documents ์˜ต์…˜์„ ํ™œ์„ฑํ™”ํ•˜๋ฉด ์‘๋‹ต์˜ ๊ทผ๊ฑฐ ๋ฌธ์„œ๋„ ํ•จ๊ป˜ ์ถœ๋ ฅ๋จ


์ฃผ์˜์‚ฌํ•ญ

  • ๋ฒกํ„ฐ ๋ฆฌํŠธ๋ฆฌ๋ฒ„ ๋…ธ๋“œ๊ฐ€ 1๊ฐœ ์ด์ƒ ์—ฐ๊ฒฐ๋˜์–ด ์žˆ์–ด์•ผ ์ฒด์ธ์ด ์ •์ƒ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค.

  • ๋ฒกํ„ฐ์Šคํ† ์–ด ์ถœ๋ ฅ ํ˜•์‹์ด ํ˜ธํ™˜๋˜์ง€ ์•Š์œผ๋ฉด ์˜ค๋ฅ˜๊ฐ€ ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค (์˜ˆ: ๋น„์ •ํ˜• Embedding ์—ฐ๊ฒฐ ์‹œ ์ฃผ์˜).

  • ๊ฒ€์ƒ‰๋œ ๋ฌธ์„œ์˜ ์ˆœ์„œ๋‚˜ ์šฐ์„ ์ˆœ์œ„๋Š” LLM์ด ์•„๋‹Œ ๋ฆฌํŠธ๋ฆฌ๋ฒ„์˜ ์„ค์ •์— ๋”ฐ๋ผ ๋‹ฌ๋ผ์งˆ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.


Multi Retrieval QA Chain์€ ๋‹ค์–‘ํ•œ ๋ฐ์ดํ„ฐ ์ถœ์ฒ˜๋ฅผ ํ†ตํ•ฉ ๊ฒ€์ƒ‰ํ•˜๊ณ  ์‘๋‹ตํ•˜๋Š” ๊ณ ๊ธ‰ ์งˆ์˜์‘๋‹ต ์ฒด์ธ์œผ๋กœ, ์—ฌ๋Ÿฌ ๋ฌธ์„œ ์†Œ์Šค๊ฐ€ ์กด์žฌํ•˜๋Š” ํ”„๋กœ์ ํŠธ๋‚˜ ๋ฉ€ํ‹ฐ๋„๋ฉ”์ธ ์งˆ๋ฌธ์— ์œ ์šฉํ•˜๊ฒŒ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Last updated