ChatMistralAI

ChatMistralAI ๋…ธ๋“œ๋Š” Mistral.ai์—์„œ ์ œ๊ณตํ•˜๋Š” LLM(mistral-tiny, mistral-small ๋“ฑ)์„ ํ˜ธ์ถœํ•˜๋Š” Chat Model ๋…ธ๋“œ์ž…๋‹ˆ๋‹ค. ๊ฒฝ๋Ÿ‰ ๋ชจ๋ธ ๊ธฐ๋ฐ˜์˜ ๋น ๋ฅธ ์‘๋‹ต๊ณผ ์œ ์—ฐํ•œ API ์„ค์ •์„ ํ†ตํ•ด ๋น ๋ฅธ ํ…Œ์ŠคํŠธ์™€ ๊ณ ์„ฑ๋Šฅ ์›Œํฌํ”Œ๋กœ์šฐ ๊ตฌ์„ฑ์— ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • Mistral.ai๊ฐ€ ์ œ๊ณตํ•˜๋Š” ์˜คํ”ˆ ๋ชจ๋ธ(mistral-tiny ๋“ฑ) ํ˜ธ์ถœ ๊ฐ€๋Šฅ

  • Top-P, Max Tokens, Safe Mode ๋“ฑ ์‘๋‹ต ์ œ์–ด ํŒŒ๋ผ๋ฏธํ„ฐ ์ง€์›

  • Streaming ๋ชจ๋“œ ์ง€์›์œผ๋กœ ์‹ค์‹œ๊ฐ„ ์‘๋‹ต ๊ฐ€๋Šฅ

  • Endpoint Override ๊ธฐ๋Šฅ์œผ๋กœ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ํ™˜๊ฒฝ์— ์œ ์—ฐํ•˜๊ฒŒ ์ ์šฉ ๊ฐ€๋Šฅ

  • ๊ณ ์„ฑ๋Šฅ ๋Œ€๋น„ ๋น„์šฉ ํšจ์œจ์ ์ธ API ์‚ฌ์šฉ ๊ฐ€๋Šฅ

WindyFlo ChatMistralAI
WindyFlo ChatMistralAI Parameters

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

Connect Credential

Mistral API Key (Credential์— ๋“ฑ๋ก๋œ ๊ฐ’)

ํ•„์ˆ˜

Model Name

์‚ฌ์šฉํ•  ๋ชจ๋ธ๋ช… (์˜ˆ: mistral-tiny, mistral-small, mistral-medium ๋“ฑ)

ํ•„์ˆ˜

Temperature

์ฐฝ์˜์„ฑ ์กฐ์ ˆ ๊ฐ’ (0.0 ~ 1.0, ๊ธฐ๋ณธ๊ฐ’: 0.9)

์„ ํƒ


ํŒŒ๋ผ๋ฏธํ„ฐ (Parameters)

ํ•ญ๋ชฉ
์„ค๋ช…

Streaming

์‘๋‹ต์„ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ฐฉ์‹์œผ๋กœ ๋ฐ›์„์ง€ ์—ฌ๋ถ€ (๊ธฐ๋ณธ๊ฐ’: true)

Max Output Tokens

์ถœ๋ ฅ ์ตœ๋Œ€ ํ† ํฐ ์ˆ˜

Top Probability

Top-P ํ™•๋ฅ  ๊ธฐ๋ฐ˜ ์ƒ˜ํ”Œ๋ง ๊ฐ’

Random Seed

์‘๋‹ต ์ƒ์„ฑ์˜ ๋žœ๋ค์„ฑ ์ œ์–ด ์‹œ๋“œ๊ฐ’

Safe Mode

๋ฏผ๊ฐ ์ฝ˜ํ…์ธ  ์ฐจ๋‹จ ์—ฌ๋ถ€ (ํ™œ์„ฑ ์‹œ ํ•„ํ„ฐ๋ง ์ ์šฉ๋จ)

Override Endpoint

๊ธฐ๋ณธ API ์ฃผ์†Œ๋ฅผ ๋Œ€์ฒดํ•  ์‚ฌ์šฉ์ž ์ •์˜ Endpoint URL


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

ChatMistralAI

Mistral ๋ชจ๋ธ์˜ ์‘๋‹ต ๋˜๋Š” ์ŠคํŠธ๋ฆฌ๋ฐ ๊ฐ์ฒด


ํ™œ์šฉ ์˜ˆ์‹œ

  • ๋น ๋ฅธ ์‘๋‹ต์„ฑ๊ณผ ๋‚ฎ์€ ์ง€์—ฐ์‹œ๊ฐ„์ด ํ•„์š”ํ•œ ์ฑ—๋ด‡ ์‹œ์Šคํ…œ์— Mistral ๋ชจ๋ธ ํ™œ์šฉ (์˜ˆ: ๊ณ ๊ฐ ์ƒ๋‹ด ์ž๋™ํ™”)

  • ๋‹ค์ˆ˜ ์‚ฌ์šฉ์ž ๋Œ€์ƒ ์ฝ˜ํ…์ธ  ์ƒ์„ฑ ๊ธฐ๋Šฅ(์นดํ”ผ๋ผ์ดํŒ…, ์š”์•ฝ ๋“ฑ)์—์„œ ์‘๋‹ต ์†๋„์™€ ๋น„์šฉ์„ ์ตœ์ ํ™”ํ•  ๋•Œ

  • ๋ชจ๋ธ Endpoint๋ฅผ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ํ”„๋ก์‹œ๋กœ ์˜ค๋ฒ„๋ผ์ด๋”ฉํ•˜์—ฌ ๋‚ด๋ถ€๋ง ์šด์˜ ํ™˜๊ฒฝ์— ๋งž์ถฐ ์‚ฌ์šฉ

  • GPT ๋Œ€์ฒด ๋ชฉ์ ์˜ ์ €๋น„์šฉ ๊ณ ์„ฑ๋Šฅ LLM ์ ์šฉ์ด ํ•„์š”ํ•œ ์Šคํƒ€ํŠธ์—… SaaS ์„œ๋น„์Šค


์‚ฌ์šฉ ํŒ

  • Safe Mode ํ™œ์„ฑํ™” ์‹œ ์ผ๋ถ€ ์‘๋‹ต์ด ๋ˆ„๋ฝ๋  ์ˆ˜ ์žˆ์œผ๋ฏ€๋กœ ํ•„์š”ํ•  ๋•Œ๋งŒ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ์„ ๊ถŒ์žฅ

  • Top Probability ๊ฐ’์„ ๋‚ฎ๊ฒŒ ์„ค์ •ํ•˜๋ฉด ๋” ์ผ๊ด€๋œ ์‘๋‹ต ์ƒ์„ฑ์ด ๊ฐ€๋Šฅ

  • Random Seed๋Š” ํ…Œ์ŠคํŠธ ํ™˜๊ฒฝ์—์„œ ์žฌํ˜„ ๊ฐ€๋Šฅํ•œ ๊ฒฐ๊ณผ๋ฅผ ์›ํ•  ๋•Œ ์œ ์šฉํ•จ

  • Override Endpoint๋Š” ํ”„๋ก์‹œ ์„œ๋ฒ„ ๋˜๋Š” ์ง€์—ญ๋ณ„ ๋ฆฌ์ „ ๋ผ์šฐํŒ…์šฉ์œผ๋กœ ํ™œ์šฉ ๊ฐ€๋Šฅ


์ฃผ์˜์‚ฌํ•ญ

  • ๋ชจ๋ธ ์ด๋ฆ„์€ ์ •ํ™•ํžˆ ์ž…๋ ฅํ•ด์•ผ ํ•˜๋ฉฐ, mistral-tiny ๋“ฑ Mistral์ด ์ œ๊ณตํ•˜๋Š” ๋ชจ๋ธ๋งŒ ์ง€์›๋ฉ๋‹ˆ๋‹ค

  • Mistral API Key๊ฐ€ Credential์— ์ •ํ™•ํžˆ ๋“ฑ๋ก๋˜์–ด ์žˆ์–ด์•ผ ํ•˜๋ฉฐ, ์ธ์ฆ ์˜ค๋ฅ˜ ์‹œ ์—ฐ๊ฒฐ์ด ์ฐจ๋‹จ๋ฉ๋‹ˆ๋‹ค

  • Safe Mode์™€ Endpoint Override๋Š” ํ…Œ์ŠคํŠธ ํ›„ ์‹ค์ œ ํ™˜๊ฒฝ์— ๋งž๊ฒŒ ์กฐ์ •ํ•ด์•ผ ํ•จ

  • Max Output Tokens ๋ฐ Streaming ๋™์‹œ ์„ค์ • ์‹œ ์ถœ๋ ฅ๋Ÿ‰ ์ œํ•œ์— ์ฃผ์˜ ํ•„์š”

Last updated