Redis-Backed Chat Memory

Redis-Backed Chat Memory λ…Έλ“œλŠ” κ³ μ†μ˜ 인메λͺ¨λ¦¬ 데이터 μ €μž₯μ†ŒμΈ Redisλ₯Ό 기반으둜 λŒ€ν™” νžˆμŠ€ν† λ¦¬λ₯Ό μ €μž₯ν•˜λŠ” λ©”λͺ¨λ¦¬ λ…Έλ“œμž…λ‹ˆλ‹€. λΉ λ₯Έ 응닡 속도와 TTL(Time-To-Live) 섀정을 톡해 μΌμ‹œμ  λ˜λŠ” μ„Έμ…˜ 기반 λ©”λͺ¨λ¦¬μ— μ ν•©ν•©λ‹ˆλ‹€.


μ£Όμš” κΈ°λŠ₯

  • Redisλ₯Ό λ°±μ—”λ“œλ‘œ μ‚¬μš©ν•˜μ—¬ 고속 λŒ€ν™” νžˆμŠ€ν† λ¦¬ μ €μž₯ 및 쑰회

  • Session ID 및 Timeouts 섀정을 ν†΅ν•œ μ„Έμ…˜ λ‹¨μœ„ 관리 지원

  • Window Size 섀정을 톡해 νžˆμŠ€ν† λ¦¬ μœ μ§€ λ²”μœ„ μ œμ–΄ κ°€λŠ₯

  • Memory Keyλ₯Ό 톡해 LLMκ³Ό μ—°λ™λ˜λŠ” νžˆμŠ€ν† λ¦¬ ν•­λͺ© μ§€μ •

WindyFlo Redis-Backed Chat Memory
WindyFlo Redis-Backed Chat Memory Parameters

μž…λ ₯κ°’ (Inputs)

ν•­λͺ©
μ„€λͺ…
ν•„μˆ˜ μ—¬λΆ€

Connect Credential

Redis 접속 정보 (Credential에 등둝 ν•„μš”)

ν•„μˆ˜

Session Id

μ‚¬μš©μž λ˜λŠ” μ„Έμ…˜ 고유 μ‹λ³„μž

선택

Session Timeouts

μ„Έμ…˜ 만료 μ‹œκ°„ (초 λ‹¨μœ„ TTL, 예: 3600)

선택

Memory Key

LLMκ³Ό μ—°κ²°λ˜λŠ” νžˆμŠ€ν† λ¦¬ ν‚€ 이름 (예: chat_history)

ν•„μˆ˜

Window Size

μœ μ§€ν•  λŒ€ν™” νžˆμŠ€ν† λ¦¬ 수 (예: 5 β†’ 졜근 5ν„΄λ§Œ μœ μ§€)

선택


좜λ ₯κ°’ (Outputs)

좜λ ₯ ν•­λͺ©
μ„€λͺ…

RedisBackedChatMemory

Redis 기반의 λŒ€ν™” λ©”λͺ¨λ¦¬ 객체 λ°˜ν™˜


ν™œμš© μ˜ˆμ‹œ

  • μ‚¬μš©μžλ³„ λŒ€ν™” μƒνƒœλ₯Ό 짧은 μ‹œκ°„ λ™μ•ˆ μœ μ§€ν•΄μ•Ό ν•˜λŠ” μ‹€μ‹œκ°„ μ„œλΉ„μŠ€ (예: ν€΄μ¦ˆ 챗봇)

  • TTL 기반 μ„Έμ…˜ μžλ™ λ§Œλ£Œκ°€ ν•„μš”ν•œ μ‹œμŠ€ν…œ (예: 인증 흐름 λ“±)

  • 졜근 λŒ€ν™” μΌλΆ€λ§Œ μœ μ§€ν•˜λ©΄μ„œ 응닡 속도λ₯Ό μ΅œμš°μ„ μ‹œ ν•˜λŠ” κ²½λŸ‰ 챗봇

  • μ‹€μ‹œκ°„μ„±μ΄ μ€‘μš”ν•œ λΉ„μ¦ˆλ‹ˆμŠ€ μ±„νŒ… 상담 μ„œλΉ„μŠ€


μ‚¬μš© 팁

  • Session Timeouts μ„€μ • μ‹œ Redis TTL κΈ°λŠ₯을 ν™œμš©ν•˜μ—¬ λ©”λͺ¨λ¦¬λ₯Ό μžλ™ 정리할 수 μžˆμŠ΅λ‹ˆλ‹€.

  • Window Sizeλ₯Ό μ„€μ •ν•˜λ©΄ κ³Όκ±° νžˆμŠ€ν† λ¦¬ κ³Όμž‰ λˆ„μ μ„ λ°©μ§€ν•  수 μžˆμŠ΅λ‹ˆλ‹€.

  • LLM λ…Έλ“œμ—μ„œλ„ λ™μΌν•œ Memory Keyλ₯Ό μ„€μ •ν•΄μ•Ό μΌκ΄€λœ νžˆμŠ€ν† λ¦¬ 전달이 κ°€λŠ₯ν•©λ‹ˆλ‹€.

  • Redis Cluster ν™˜κ²½μ—μ„œλŠ” 접속 포트, 호슀트 λ“± Credential 등둝 값을 μ •ν™•νžˆ μ§€μ •ν•΄μ•Ό ν•©λ‹ˆλ‹€.


μ£Όμ˜μ‚¬ν•­

  • Connect Credential 미등둝 μ‹œ Redis μ„œλ²„μ— μ ‘κ·Όν•  수 μ—†μŠ΅λ‹ˆλ‹€.

  • TTL이 λ„ˆλ¬΄ 짧게 μ„€μ •λ˜λ©΄ λŒ€ν™” 도쀑 μ„Έμ…˜μ΄ 만료될 수 μžˆμŠ΅λ‹ˆλ‹€.

  • Window Sizeκ°€ μ„€μ •λ˜μ§€ μ•ŠμœΌλ©΄ 전체 νžˆμŠ€ν† λ¦¬λ₯Ό μ €μž₯ν•˜κ²Œ λ˜λ―€λ‘œ, 토큰 초과 주의 ν•„μš”

  • 단독 μ‚¬μš©μ€ λΆˆκ°€ν•˜λ©°, λ°˜λ“œμ‹œ Agent λ˜λŠ” LLM λ…Έλ“œμ™€ ν•¨κ»˜ μ—°κ²°ν•΄μ•Ό μ˜λ―Έκ°€ μžˆμŠ΅λ‹ˆλ‹€.

Last updated