# OpenAI Moderation OpenAI Moderation 노드는 OpenAI의 콘텐츠 모더레이션 API를 호출하여 입력된 문장의 정책 위반 여부를 자동으로 검사하는 기능을 제공합니다. 사용자의 입력값이 민감하거나 부적절할 수 있는 경우, 사전 필터링을 위한 전처리 용도로 활용됩니다. *** ### 주요 기능 * OpenAI의 정책 위반 여부를 자동 감지 * 입력값이 위험 또는 부적절한 경우 사용자 정의 메시지 반환 * Agent 또는 LLM 실행 전에 필터링 단계로 활용 가능 * 다양한 자동화 시나리오에 콘텐츠 안전성 확보 수단으로 적용

WindyFlo OpenAI Moderation

### 입력값 (Inputs) | 항목 | 설명 | 필수 여부 | | ------------------ | ------------------------------------ | ----- | | Connect Credential | OpenAI API 인증 정보 (Credential에 등록 필요) | 필수 | *** ### 파라미터 (Parameters) | 항목 | 설명 | | ------------- | ------------------------------------------------------------------------------------------------------- | | Error Message | 정책 위반 시 사용자에게 반환할 커스텀 메시지 (예: `"Cannot Process! Input violates OpenAI’s content moderation policies."`) | *** ### 출력값 (Outputs) | 출력 항목 | 설명 | | ---------- | ---------------------------- | | Moderation | 모더레이션 결과 객체 (위반 여부, 범주 등 포함) | *** ### 활용 예시 * 챗봇 또는 에이전트에서 사용자 입력을 사전 검열하여 부적절 발화 차단 * LLM 응답 전처리 또는 후처리 흐름에 안전성 보장을 위한 모듈로 삽입 * 사용자 생성 콘텐츠(UGC) 업로드 시 자동 필터링 로직 구성 * 비속어나 민감 정보 포함 여부 검출이 필요한 고객 서비스 시나리오 *** ### 사용 팁 * Error Message는 사용자 친화적 문구로 설정하여 UX 품질을 향상시킬 수 있습니다. * 토큰 비용을 절감하기 위해 Moderation 노드는 LLM 호출 전에 사용하는 것이 효율적입니다. * 정책 위반 여부를 기준으로 IfElseFunction과 연계하여 흐름 제어도 가능합니다. *** ### 주의사항 * Connect Credential이 누락되면 API 호출이 불가능하며 오류가 발생합니다. * OpenAI의 정책 범주는 `hate`, `self-harm`, `sexual`, `violence` 등이며, 민감도는 다소 높을 수 있습니다. * 해당 노드는 입력을 필터링할 뿐, 출력 내용을 검열하는 기능은 제공하지 않습니다. * Output 결과는 JSON 객체 형태이며, 후속 노드에서 직접 파싱하거나 조건 분기 노드와 연동해야 합니다.