Cohere

Cohere

Cohere 노드는 Cohere 플랫폼의 LLM(예: command, command-light)을 활용하여 텍스트 생성 작업을 수행할 수 있는 노드입니다. 비즈니스 문맥에 최적화된 생성 결과를 제공하며, 특히 명령 기반 프롬프트 처리에 강점을 가집니다.

---

주요 기능

• Cohere의 command 계열 모델을 통해 고성능 텍스트 생성 수행

• Temperature, Max Tokens 설정으로 출력 스타일과 길이 조절 가능

• 캐시 기능을 통해 동일 요청 재처리 비용 절감

• Cohere 고유의 명령 지향적 모델 특성 활용 가능

Windyflo Cohere

입력값 (Inputs)

항목	설명	필수 여부
Cache	동일 요청 결과 캐시 여부 (ON/OFF)	선택
Connect Credential	Cohere API 키 (Credential에 등록)	필수
Model Name	사용할 모델 이름 (command, command-light 등)	필수
Temperature	생성 창의성 설정 (기본값: 0.7)	선택
Max Tokens	최대 생성 토큰 수 (예: 256, 512 등)	선택

---

파라미터 (Parameters)

※ 해당 노드는 입력 필드 외 별도 고급 파라미터 없음

---

출력값 (Outputs)

출력 항목	설명
Cohere	생성된 텍스트 결과 (단일 문자열 또는 JSON 구조 포함 가능)

---

활용 예시

• 사용자의 명령문(prompt)에 따라 이메일 작성, 요약, 패턴 생성 등의 자동화 처리

• 기존 템플릿 기반 응답 시스템을 LLM 기반 자연어 시스템으로 교체

• 실시간 고객 응답 자동화, 챗봇 응답 생성 등에 활용

• 경량 모델(command-light)을 이용한 빠른 피드백 기반 시스템 구축

---

사용 팁

• command 모델은 명령형 프롬프트(예: "Write a product description for...")에 최적화되어 있으며, 사실 기반 출력 품질이 높습니다.

• command-light 모델은 응답 속도가 더 빠르고 경량 응답에 적합합니다.

• Temperature를 0.3 이하로 설정하면 보다 일관성 있는 응답, 0.8 이상이면 창의적인 결과를 유도할 수 있습니다.

• 프롬프트에 명확한 역할·지시문을 포함하면 응답 품질이 크게 향상됩니다.

---

주의사항

• Model Name은 Cohere가 사전 공개한 이름만 지원되며, 오타 또는 미지원 모델 사용 시 오류 발생

• Token 제한이 있으므로 Max Tokens는 예상 응답 길이를 고려해 설정해야 하며 초과 시 결과가 잘릴 수 있음

• Cohere는 사용량 기반 요금제가 적용되므로, 테스트 시 응답 길이와 빈도에 유의 필요

• 캐시 기능은 LLM 비용을 줄이는데 유용하나, 응답 다양성이 필요한 경우에는 비활성화 권장