Momento Cache

Momento Cache 노드는 초고속 분산 캐시 플랫폼인 Momento와 연동하여, 세션 간 데이터를 저장하고 재사용할 수 있도록 지원하는 외부 캐시 연동 노드입니다. InMemory Cache와 달리, 세션 종료 이후에도 데이터를 유지할 수 있어 지속적이고 확장 가능한 캐시 전략이 필요한 시나리오에 적합합니다.

---

주요 기능

• Momento와 연동된 분산 캐시 구성

• 세션을 넘어 데이터 재사용 가능

• 멀티 노드 간 상태 공유

• 고속 데이터 접근 최적화

WindyFlo Momento Cache

입력값 (Inputs)

항목	설명	필수 여부
Connect Credential	Momento API 연결을 위한 인증 정보입니다. WindyFlo Credential Manager에서 발급 및 등록 가능	필수

---

출력값 (Outputs)

출력 항목	설명
MomentoCache	Momento 기반 외부 캐시 객체. 이후 노드에서 상태 저장, 조회, 재활용 용도로 사용 가능

---

활용 예시

1. 세션 간 LLM 결과 유지 → 이전 사용자 요청 결과를 Momento에 저장 → 이후 질의에서 그대로 불러와 응답 속도 개선

2. 대규모 멀티 파이프라인 캐시 공유 → A 파이프라인에서 저장한 벡터 정보를 B 파이프라인에서 사용 → 분산 환경에서 상태 공유 가능

3. API 결과 임시 저장 → 외부 API 응답을 캐시하여 중복 호출 방지 + 비용 절감

---

사용 팁

• Momento는 초당 수천 건의 요청을 처리할 수 있어, 대규모 트래픽에도 대응 가능

• 보안상 인증 정보는 반드시 Credential Manager를 통해 안전하게 관리

• 캐시 Key와 TTL(Time To Live)을 설정하는 세부 파라미터는 연결된 노드에서 추가 구성 필요

---

주의사항

• Momento는 별도의 가입 및 API Key 발급이 필요합니다. 공식 웹사이트에서 신청 가능

• 세션 간 유지되는 구조이므로 민감 정보 캐시에 주의

• 연결 실패 시 모든 캐시 동작은 무효화되므로 Credential 유효성 확인 필수

---

Momento Cache는 WindyFlo에서 고성능, 확장형 캐시 전략을 구성할 수 있는 외부 연동형 노드입니다. 지속적 데이터 저장, 세션 간 상태 공유, 캐시 기반 최적화가 필요한 모든 시나리오에 적합합니다.