Retrieval QA Chain

Retrieval QA Chain ๋…ธ๋“œ๋Š” ์‚ฌ์šฉ์ž ์งˆ๋ฌธ์— ๋Œ€ํ•ด ๋ฒกํ„ฐ์Šคํ† ์–ด ๊ธฐ๋ฐ˜ ๋ฌธ์„œ๋ฅผ ๊ฒ€์ƒ‰ํ•˜๊ณ , ํ•ด๋‹น ๊ฒฐ๊ณผ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ์–ธ์–ด ๋ชจ๋ธ์ด ์‘๋‹ต์„ ์ƒ์„ฑํ•˜๋Š” ์งˆ์˜์‘๋‹ต์šฉ ์ฒด์ธ์ž…๋‹ˆ๋‹ค. RAG(Retrieval-Augmented Generation) ๋ฐฉ์‹์˜ ๊ฐ€์žฅ ๊ธฐ๋ณธ ๊ตฌ์กฐ๋กœ, ๋‹จ์ผ ๋ฒกํ„ฐ ๋ฆฌํŠธ๋ฆฌ๋ฒ„์™€ ์–ธ์–ด ๋ชจ๋ธ๋กœ ๊ฐ„๊ฒฐํ•˜๊ฒŒ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • ์‚ฌ์šฉ์ž ์งˆ๋ฌธ์„ ๊ธฐ๋ฐ˜์œผ๋กœ ๋ฌธ์„œ ๋ฒกํ„ฐ์Šคํ† ์–ด์—์„œ ๊ด€๋ จ ์ •๋ณด๋ฅผ ๊ฒ€์ƒ‰

  • ๊ฒ€์ƒ‰๋œ ๋ฌธ์„œ๋ฅผ ์ปจํ…์ŠคํŠธ๋กœ ์‚ฌ์šฉํ•˜์—ฌ ์–ธ์–ด ๋ชจ๋ธ์ด ๋‹ต๋ณ€ ์ƒ์„ฑ

  • ๊ฐ„๋‹จํ•œ RAG ๊ตฌํ˜„ ์‹œ ๊ฐ€์žฅ ๊ธฐ๋ณธ์ ์ธ ๊ตฌ์„ฑ

WindyFlo Retrieval QA Chain

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

Language Model

๊ฒ€์ƒ‰๋œ ์ปจํ…์ŠคํŠธ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ์‘๋‹ต์„ ์ƒ์„ฑํ•  LLM (์˜ˆ: GPT, Claude ๋“ฑ)

ํ•„์ˆ˜

Vector Store Retriever

์งˆ๋ฌธ๊ณผ ๊ด€๋ จ๋œ ๋ฌธ์„œ๋ฅผ ๊ฒ€์ƒ‰ํ•˜๋Š” ๋ฆฌํŠธ๋ฆฌ๋ฒ„ (์˜ˆ: In-Memory Vector Store, Redis ๋“ฑ)

ํ•„์ˆ˜

Input Moderation

์ž…๋ ฅ๊ฐ’์— ๋Œ€ํ•œ ์œ ํ•ด ์ฝ˜ํ…์ธ  ํ•„ํ„ฐ๋ง ๊ธฐ๋Šฅ (ON/OFF)

์„ ํƒ

โ€ป Vector Store Retriever๋Š” InMemory Vector Store, Redis Embeddings Cache ๋“ฑ๊ณผ ์—ฐ๊ฒฐ ๊ฐ€๋Šฅ


์ถœ๋ ฅ๊ฐ’ (Outputs)

ํ•ญ๋ชฉ
์„ค๋ช…

RetrievalQAChain

๊ฒ€์ƒ‰๋œ ๋ฌธ์„œ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ์ƒ์„ฑ๋œ ์‘๋‹ต (ํ…์ŠคํŠธ)


ํ™œ์šฉ ์˜ˆ์‹œ

  • PDF ์š”์•ฝ RAG ์—…๋กœ๋“œํ•œ ๋ฌธ์„œ์—์„œ ์งˆ๋ฌธ์— ๋”ฐ๋ผ ๋‚ด์šฉ์„ ๊ฒ€์ƒ‰ํ•˜๊ณ  LLM์ด ์š”์•ฝ ์ œ๊ณต

  • ์‚ฌ๋‚ด ๋ฌธ์„œ ๊ธฐ๋ฐ˜ Q&A ์ž„์ง์›์ด ์‚ฌ๋‚ด ์ •์ฑ… ๋ฌธ์„œ์—์„œ ๋‹ต๋ณ€์„ ์ž๋™์œผ๋กœ ๋ฐ›์„ ์ˆ˜ ์žˆ๋„๋ก ๊ตฌํ˜„

  • FAQ ๋Œ€์ฒด ์ฑ—๋ด‡ ์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ์— ๋Œ€ํ•ด ์ •์  ๋‹ต๋ณ€ ๋Œ€์‹  ์‹ค์‹œ๊ฐ„ ์ •๋ณด ๊ธฐ๋ฐ˜ ์‘๋‹ต ์ œ๊ณต


์‚ฌ์šฉ ํŒ

  • ๊ฒ€์ƒ‰ ์ •ํ™•๋„๋ฅผ ๋†’์ด๋ ค๋ฉด ๋ฒกํ„ฐ์Šคํ† ์–ด์˜ Top-K ๊ฐ’์„ ์กฐ์ ˆํ•˜๊ฑฐ๋‚˜ ๋ฌธ์„œ chunking ์ „๋žต์„ ์กฐ์ •ํ•˜์„ธ์š”.

  • ๋‹จ์ˆœํ•œ Q&A๋ฅผ ๋„˜์–ด, Chain Tool๊ณผ ์—ฐ๊ฒฐํ•ด ํ›„์† ์ž‘์—…์„ ์„ค์ •ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • LLM์˜ ์ถœ๋ ฅ์„ Write File๋กœ ์ €์žฅํ•˜๊ฑฐ๋‚˜ ์ด๋ฉ”์ผ๋กœ ์ „์†กํ•˜๋Š” ํ๋ฆ„์œผ๋กœ ํ™•์žฅ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.


์ฃผ์˜์‚ฌํ•ญ

  • ๋‹ค์ค‘ ๋ฆฌํŠธ๋ฆฌ๋ฒ„ ๊ฒ€์ƒ‰์ด ํ•„์š”ํ•œ ๊ฒฝ์šฐ์—๋Š” Multi Retrieval QA Chain ๋…ธ๋“œ๋ฅผ ์‚ฌ์šฉํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

  • ์ปจํ…์ŠคํŠธ๋กœ ์ œ๊ณต๋œ ๋ฌธ์„œ ์™ธ์˜ ์งˆ๋ฌธ์—๋Š” ๋‹ต๋ณ€ํ•˜์ง€ ์•Š๋„๋ก ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ œ์–ดํ•˜๋Š” ๊ฒƒ์ด ์ข‹์Šต๋‹ˆ๋‹ค.

  • ๋ฒกํ„ฐ ๋ฆฌํŠธ๋ฆฌ๋ฒ„๊ฐ€ ์˜ฌ๋ฐ”๋ฅด๊ฒŒ ์—ฐ๊ฒฐ๋˜์ง€ ์•Š์œผ๋ฉด ์‘๋‹ต์ด ๋น„๊ฑฐ๋‚˜ ์˜ค๋ฅ˜๊ฐ€ ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.


Retrieval QA Chain์€ WindyFlo์—์„œ RAG๋ฅผ ๊ฐ€์žฅ ๋‹จ์ˆœํ•˜๊ณ  ๋น ๋ฅด๊ฒŒ ๊ตฌํ˜„ํ•  ์ˆ˜ ์žˆ๋Š” ๊ธฐ๋ณธ ์ฒด์ธ์ž…๋‹ˆ๋‹ค. ๋‹จ์ผ ๋ฌธ์„œ ์†Œ์Šค ๊ธฐ๋ฐ˜ Q&A๋ฅผ ๊ตฌํ˜„ํ•˜๊ณ ์ž ํ•  ๋•Œ ๊ฐ€์žฅ ๋จผ์ € ์„ ํƒํ•ด์•ผ ํ•  ๋…ธ๋“œ์ž…๋‹ˆ๋‹ค.

Last updated