Azure ChatOpenAI

Azure ChatOpenAI ๋…ธ๋“œ๋Š” Microsoft Azure ์ธํ”„๋ผ๋ฅผ ํ†ตํ•ด OpenAI์˜ GPT ๋ชจ๋ธ์„ ํ˜ธ์ถœํ•˜๋Š” Chat Model ๋…ธ๋“œ์ž…๋‹ˆ๋‹ค. ๊ธฐ์—… ๋ณด์•ˆ ์ •์ฑ…์— ๋”ฐ๋ผ OpenAI API ์ง์ ‘ ์‚ฌ์šฉ์ด ์ œํ•œ๋œ ํ™˜๊ฒฝ์—์„œ๋„ GPT ๊ธฐ๋Šฅ์„ ์•ˆ์ „ํ•˜๊ฒŒ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • Azure OpenAI ์„œ๋น„์Šค๋ฅผ ํ†ตํ•ด GPT ๊ณ„์—ด ๋ชจ๋ธ ํ˜ธ์ถœ ๊ฐ€๋Šฅ

  • Temperature, Penalty ๋“ฑ ๋‹ค์–‘ํ•œ ์‘๋‹ต ์ œ์–ด ์˜ต์…˜ ์ œ๊ณต

  • ์ด๋ฏธ์ง€ ์—…๋กœ๋“œ ํ—ˆ์šฉ ๋ฐ ํ•ด์ƒ๋„ ์„ค์ • ๊ฐ€๋Šฅ

  • Reasoning Effort ์„ค์ •์œผ๋กœ ์‘๋‹ต ํ’ˆ์งˆ ์ˆ˜์ค€ ์กฐ์ •

  • ๊ธฐ์—… ํ™˜๊ฒฝ์— ์ ํ•ฉํ•œ API ์ธ์ฆ ๋ฐ Endpoint ๊ตฌ์„ฑ ์ง€์›

WindyFlo Azure ChatOpenAI
WindyFlo Azure ChatOpenAI Parameters

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

Connect Credential

Azure์— ๋“ฑ๋ก๋œ OpenAI ๋ฆฌ์†Œ์Šค ์ ‘๊ทผ์šฉ Credential์— ๋“ฑ๋ก๋œ ๊ฐ’

ํ•„์ˆ˜

Model Name

์‚ฌ์šฉํ•  Azure OpenAI ๋ชจ๋ธ๋ช… (์˜ˆ: gpt-35-turbo, gpt-4 ๋“ฑ)

ํ•„์ˆ˜

Temperature

์ฐฝ์˜์„ฑ ์กฐ์ ˆ ๊ฐ’ (0.0 ~ 1.0, ๊ธฐ๋ณธ๊ฐ’ ์˜ˆ: 0.9)

์„ ํƒ

Allow Image Uploads

์ด๋ฏธ์ง€ ์—…๋กœ๋“œ ํ—ˆ์šฉ ์—ฌ๋ถ€

์„ ํƒ


ํŒŒ๋ผ๋ฏธํ„ฐ (Parameters)

ํ•ญ๋ชฉ
์„ค๋ช…

Max Tokens

์ถœ๋ ฅํ•  ์ตœ๋Œ€ ํ† ํฐ ์ˆ˜ ์ œํ•œ

Streaming

์‘๋‹ต์„ ์ŠคํŠธ๋ฆฌ๋ฐ์œผ๋กœ ์ˆ˜์‹ ํ• ์ง€ ์—ฌ๋ถ€ (๊ธฐ๋ณธ๊ฐ’: true)

Top Probability

Top-P ํ™•๋ฅ  ์ƒ˜ํ”Œ๋ง ๊ฐ’ (์˜ˆ: 0.9)

Frequency Penalty

๋™์ผ ๋‹จ์–ด ๋ฐ˜๋ณต ๊ฐ์†Œ ๊ณ„์ˆ˜ (-2.0 ~ 2.0)

Presence Penalty

์ƒˆ๋กœ์šด ์ฃผ์ œ ์œ ๋„ ๊ณ„์ˆ˜ (-2.0 ~ 2.0)

Timeout

์‘๋‹ต ๋Œ€๊ธฐ ์‹œ๊ฐ„ ์ œํ•œ (ms ๋‹จ์œ„)

BasePath

์‚ฌ์šฉ์ž ์ •์˜ Endpoint ์ฃผ์†Œ

BaseOptions

์ถ”๊ฐ€ API ์˜ต์…˜ (JSON ๊ฐ์ฒด ํ˜•ํƒœ)

Image Resolution

์ด๋ฏธ์ง€ ์‘๋‹ต ํ•ด์ƒ๋„ ์„ค์ • (Low / Medium / High)

Reasoning Effort

์‘๋‹ต ๋…ผ๋ฆฌ ์ˆ˜์ค€ ์„ค์ • (Low / Medium / High)


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

AzureChatOpenAI

๋ชจ๋ธ ์‘๋‹ต ํ…์ŠคํŠธ ๋˜๋Š” ์ŠคํŠธ๋ฆฌ๋ฐ ๊ฐ์ฒด


ํ™œ์šฉ ์˜ˆ์‹œ

  • ๊ธˆ์œต๊ธฐ์—… ๋‚ด๋ถ€ ์‹œ์Šคํ…œ์—์„œ ๋ฏผ๊ฐํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ๋‹ค๋ฃจ๋ฉฐ, Azure ๋ณด์•ˆ ์ธ์ฆ์„ ํ†ต๊ณผํ•œ GPT ๋ชจ๋ธ๋กœ ์ƒ๋‹ด ์—…๋ฌด ์ž๋™ํ™”

  • ๊ต์œก๊ธฐ๊ด€ LMS ์‹œ์Šคํ…œ์—์„œ GPT-4 ๊ธฐ๋ฐ˜ ํ•™์Šต ์งˆ๋ฌธ ์‘๋‹ต ์ฑ—๋ด‡์„ Azure ํ™˜๊ฒฝ์— ํƒ‘์žฌํ•˜์—ฌ ์šด์˜

  • ๋Œ€๊ธฐ์—… ๊ณ ๊ฐ์„ผํ„ฐ์—์„œ Azure OpenAI๋ฅผ ํ†ตํ•ด ์˜์—… ๋ฌธ์„œ ์š”์•ฝ ๋ฐ ๋งž์ถคํ˜• ๋‹ต๋ณ€ ์ƒ์„ฑ ์ž๋™ํ™”

  • ๊ณต๊ณต๊ธฐ๊ด€ ๋‚ด ๋ณด์•ˆ๋ง ํ™˜๊ฒฝ์—์„œ๋„ ์‚ฌ๋‚ด ๋ฌธ์„œ ๊ธฐ๋ฐ˜ Q&A ์„œ๋น„์Šค๋ฅผ ์•ˆ์ „ํ•˜๊ฒŒ ๊ตฌํ˜„


์‚ฌ์šฉ ํŒ

  • Image Resolution์„ "Low"๋กœ ์„ค์ •ํ•˜๋ฉด ์‘๋‹ต ์†๋„๊ฐ€ ๋นจ๋ผ์ง€๊ณ  ๋น„์šฉ์ด ์ ˆ๊ฐ๋ฉ๋‹ˆ๋‹ค.

  • Reasoning Effort๋ฅผ "High"๋กœ ์„ค์ • ์‹œ ๋…ผ๋ฆฌ์ ์ธ ์‘๋‹ต์ด ๊ฐ€๋Šฅํ•˜์ง€๋งŒ ์‘๋‹ต ์‹œ๊ฐ„์ด ๋Š˜์–ด๋‚  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • BasePath๋ฅผ ์„ค์ •ํ•˜๋ฉด Azure์—์„œ ์ปค์Šคํ…€ ๋„๋ฉ”์ธ/์—”๋“œํฌ์ธํŠธ๋ฅผ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.


์ฃผ์˜์‚ฌํ•ญ

  • Azure ๋ฆฌ์†Œ์Šค์— OpenAI ์„œ๋น„์Šค๊ฐ€ ์‚ฌ์ „์— ์„ค์ •๋˜์–ด ์žˆ์–ด์•ผ ํ•˜๋ฉฐ, API ํ‚ค์™€ ๋ชจ๋ธ ๋ฐฐํฌ ์„ค์ •์ด ์™„๋ฃŒ๋ผ์•ผ ํ•ฉ๋‹ˆ๋‹ค.

  • ๋ชจ๋ธ ์ด๋ฆ„์€ Azure์—์„œ ๋ฐฐํฌํ•œ Deployment ์ด๋ฆ„๊ณผ ์ผ์น˜ํ•ด์•ผ ํ•˜๋ฉฐ, ๋‹จ์ˆœ ๋ชจ๋ธ๋ช…(gpt-4 ๋“ฑ)์ด ์•„๋‹˜์— ์ฃผ์˜ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

  • GPT-4 ๋ชจ๋ธ ์‚ฌ์šฉ ์‹œ ์ฒ˜๋ฆฌ ์ง€์—ฐ์ด ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ๋†’์€ Reasoning Effort์™€ ํ•จ๊ป˜ ์‚ฌ์šฉํ•  ๊ฒฝ์šฐ ๋”์šฑ ์ฆ๊ฐ€ํ•ฉ๋‹ˆ๋‹ค.

  • ์ผ๋ถ€ ์„ค์ •๊ฐ’(์˜ˆ: Presence Penalty)์ด ๊ณผ๋„ํ•˜๊ฒŒ ๋†’์œผ๋ฉด ์‘๋‹ต์ด ๋น„์ •์ƒ์ ์œผ๋กœ ๋™์ž‘ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Last updated