InMemory Cache
InMemory Cache ๋ ธ๋๋ ์คํ ์ค ์์ฑ๋๋ ๋ฐ์ดํฐ๋ฅผ ์ผ์์ ์ผ๋ก ๋ฉ๋ชจ๋ฆฌ์ ์ ์ฅํ์ฌ, ์ดํ ๋ ธ๋์์ ์ฌ์ฌ์ฉํ ์ ์๋๋ก ํ๋ ์บ์ ๊ธฐ๋ฅ ๋ ธ๋์ ๋๋ค. ๋ณต์กํ ํ์ดํ๋ผ์ธ์์ ๋์ผํ ๊ณ์ฐ ๊ฒฐ๊ณผ๋ฅผ ์ฌ๋ฌ ๋ฒ ์ฐธ์กฐํด์ผ ํ ๋, ์ฑ๋ฅ ์ต์ ํ ๋ฐ ์ค๋ณต ์ฒ๋ฆฌ ๋ฐฉ์ง๋ฅผ ์ํด ์ฌ์ฉ๋ฉ๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ
๋ฐ์ดํฐ ์์ ์ ์ฅ: ๋ ธ๋ ์คํ ์ค ์์ฑ๋ ๊ฒฐ๊ณผ๋ฅผ ๋ฉ๋ชจ๋ฆฌ์ ์บ์ฑ
์ฌ์ฌ์ฉ ๊ฐ๋ฅ: ๋์ผ ์ธ์ ๋ด์์ ๋ค๋ฅธ ๋ ธ๋๊ฐ ์ด ๋ฐ์ดํฐ๋ฅผ ๋ค์ ํ์ฉ ๊ฐ๋ฅ
์ฐ๊ฒฐ ๊ฐ์ํ: ์ค๊ฐ ๊ฒฐ๊ณผ๋ฅผ ๋ฐ๋ณต ๊ณ์ฐํ์ง ์๊ณ ํจ์จ์ ์ผ๋ก ์ ๋ฌ

์
๋ ฅ๊ฐ (Inputs)
์์ โป ์ ๋ ฅ ์์ด ๋ด๋ถ ์บ์ ๊ตฌ์กฐ์ ๋ฐ๋ผ ์๋์ผ๋ก ์ฐ๊ฒฐ๋ ๋ ธ๋ ์ถ๋ ฅ์ ์ ์ฅํฉ๋๋ค.
์ถ๋ ฅ๊ฐ (Outputs)
InMemoryCache
๋ฉ๋ชจ๋ฆฌ์ ์ ์ฅ๋ ๋ฐ์ดํฐ๋ฅผ ์ถ๋ ฅํ์ฌ ๋ค๋ฅธ ๋ ธ๋์์ ์ฌํ์ฉํ ์ ์๋๋ก ์ ๊ณต
ํ์ฉ ์์
์ค๋ณต ๋ฐ์ดํฐ ์ฐธ์กฐ ๋ฐฉ์ง โ LLM์์ ์์ฑ๋ ์ค๊ฐ ๊ฒฐ๊ณผ๋ฅผ ์บ์์ ์ ์ฅ โ ํ์ ๋ ธ๋์์ ๊ทธ๋๋ก ์ฌ์ฉ
ํ์ดํ๋ผ์ธ ์ฑ๋ฅ ์ต์ ํ โ ๊ณ ๋น์ฉ ๊ณ์ฐ(์: ๋ํ ๋ชจ๋ธ ์ถ๋ก ๊ฒฐ๊ณผ)์ ์บ์ฑํ์ฌ ์ฌ๋ฌ ๋ ธ๋์์ ์ฌ์ฌ์ฉ
๋ฐ์ดํฐ ์ฒ๋ฆฌ ํ์ดํ๋ผ์ธ ๋ด ๊ณต์ โ ๊ฐ์ ๊ฒฐ๊ณผ๋ฅผ ์ฌ๋ฌ ๊ฒฝ๋ก์์ ๋์์ ์ฐธ์กฐํ ๋ ์ ์ฉ
์ฌ์ฉ ํ
InMemory Cache๋ ์ธ์ ๋ด์์๋ง ์ ์ง๋ฉ๋๋ค. ์ธ์ ์ด ์ข ๋ฃ๋๋ฉด ์บ์๋ ์๋ฉธ๋ฉ๋๋ค.
๋ฐ๋ณต ์คํ ์ ํญ์ ์ต์ ๊ฒฐ๊ณผ๋ฅผ ์ฌ์ฉํ๋ ค๋ฉด, ์บ์๊ฐ ์๋ ์ง์ ์ฐ๊ฒฐ์ ๊ถ์ฅํฉ๋๋ค.
๋จ์ผ ๊ฒฐ๊ณผ๋ฅผ ์ฌ๋ฌ ๊ณณ์ ์ฐ๊ฒฐํด์ผ ํ๋ ๊ตฌ์กฐ์์ Branch ๋ ธ๋ ์์ด ์บ์๋ก ๋ถ๊ธฐ ์ฒ๋ฆฌ๊ฐ ๊ฐ๋ฅํฉ๋๋ค.
InMemory Cache๋ ๋ณต์กํ ํ์ดํ๋ผ์ธ์ ํจ์จ์ ์ผ๋ก ๊ตฌ์ฑํ๊ณ ์คํ ์๋๋ฅผ ๋์ผ ์ ์๋ ๊ฐ๋จํ์ง๋ง ๊ฐ๋ ฅํ ์ ํธ๋ฆฌํฐ ๋ ธ๋์ ๋๋ค.
Last updated