Azure ChatOpenAI
Azure ChatOpenAI ๋ ธ๋๋ Microsoft Azure ์ธํ๋ผ๋ฅผ ํตํด OpenAI์ GPT ๋ชจ๋ธ์ ํธ์ถํ๋ Chat Model ๋ ธ๋์ ๋๋ค. ๊ธฐ์ ๋ณด์ ์ ์ฑ ์ ๋ฐ๋ผ OpenAI API ์ง์ ์ฌ์ฉ์ด ์ ํ๋ ํ๊ฒฝ์์๋ GPT ๊ธฐ๋ฅ์ ์์ ํ๊ฒ ํ์ฉํ ์ ์์ต๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ
Azure OpenAI ์๋น์ค๋ฅผ ํตํด GPT ๊ณ์ด ๋ชจ๋ธ ํธ์ถ ๊ฐ๋ฅ
Temperature, Penalty ๋ฑ ๋ค์ํ ์๋ต ์ ์ด ์ต์ ์ ๊ณต
์ด๋ฏธ์ง ์ ๋ก๋ ํ์ฉ ๋ฐ ํด์๋ ์ค์ ๊ฐ๋ฅ
Reasoning Effort ์ค์ ์ผ๋ก ์๋ต ํ์ง ์์ค ์กฐ์
๊ธฐ์ ํ๊ฒฝ์ ์ ํฉํ API ์ธ์ฆ ๋ฐ Endpoint ๊ตฌ์ฑ ์ง์


์
๋ ฅ๊ฐ (Inputs)
Connect Credential
Azure์ ๋ฑ๋ก๋ OpenAI ๋ฆฌ์์ค ์ ๊ทผ์ฉ Credential์ ๋ฑ๋ก๋ ๊ฐ
ํ์
Model Name
์ฌ์ฉํ Azure OpenAI ๋ชจ๋ธ๋ช (์: gpt-35-turbo, gpt-4 ๋ฑ)
ํ์
Temperature
์ฐฝ์์ฑ ์กฐ์ ๊ฐ (0.0 ~ 1.0, ๊ธฐ๋ณธ๊ฐ ์: 0.9)
์ ํ
Allow Image Uploads
์ด๋ฏธ์ง ์ ๋ก๋ ํ์ฉ ์ฌ๋ถ
์ ํ
ํ๋ผ๋ฏธํฐ (Parameters)
Max Tokens
์ถ๋ ฅํ ์ต๋ ํ ํฐ ์ ์ ํ
Streaming
์๋ต์ ์คํธ๋ฆฌ๋ฐ์ผ๋ก ์์ ํ ์ง ์ฌ๋ถ (๊ธฐ๋ณธ๊ฐ: true)
Top Probability
Top-P ํ๋ฅ ์ํ๋ง ๊ฐ (์: 0.9)
Frequency Penalty
๋์ผ ๋จ์ด ๋ฐ๋ณต ๊ฐ์ ๊ณ์ (-2.0 ~ 2.0)
Presence Penalty
์๋ก์ด ์ฃผ์ ์ ๋ ๊ณ์ (-2.0 ~ 2.0)
Timeout
์๋ต ๋๊ธฐ ์๊ฐ ์ ํ (ms ๋จ์)
BasePath
์ฌ์ฉ์ ์ ์ Endpoint ์ฃผ์
BaseOptions
์ถ๊ฐ API ์ต์ (JSON ๊ฐ์ฒด ํํ)
Image Resolution
์ด๋ฏธ์ง ์๋ต ํด์๋ ์ค์ (Low / Medium / High)
Reasoning Effort
์๋ต ๋ ผ๋ฆฌ ์์ค ์ค์ (Low / Medium / High)
์ถ๋ ฅ๊ฐ (Outputs)
AzureChatOpenAI
๋ชจ๋ธ ์๋ต ํ ์คํธ ๋๋ ์คํธ๋ฆฌ๋ฐ ๊ฐ์ฒด
ํ์ฉ ์์
๊ธ์ต๊ธฐ์ ๋ด๋ถ ์์คํ ์์ ๋ฏผ๊ฐํ ๋ฐ์ดํฐ๋ฅผ ๋ค๋ฃจ๋ฉฐ, Azure ๋ณด์ ์ธ์ฆ์ ํต๊ณผํ GPT ๋ชจ๋ธ๋ก ์๋ด ์ ๋ฌด ์๋ํ
๊ต์ก๊ธฐ๊ด LMS ์์คํ ์์ GPT-4 ๊ธฐ๋ฐ ํ์ต ์ง๋ฌธ ์๋ต ์ฑ๋ด์ Azure ํ๊ฒฝ์ ํ์ฌํ์ฌ ์ด์
๋๊ธฐ์ ๊ณ ๊ฐ์ผํฐ์์ Azure OpenAI๋ฅผ ํตํด ์์ ๋ฌธ์ ์์ฝ ๋ฐ ๋ง์ถคํ ๋ต๋ณ ์์ฑ ์๋ํ
๊ณต๊ณต๊ธฐ๊ด ๋ด ๋ณด์๋ง ํ๊ฒฝ์์๋ ์ฌ๋ด ๋ฌธ์ ๊ธฐ๋ฐ Q&A ์๋น์ค๋ฅผ ์์ ํ๊ฒ ๊ตฌํ
์ฌ์ฉ ํ
Image Resolution์ "Low"๋ก ์ค์ ํ๋ฉด ์๋ต ์๋๊ฐ ๋นจ๋ผ์ง๊ณ ๋น์ฉ์ด ์ ๊ฐ๋ฉ๋๋ค.
Reasoning Effort๋ฅผ "High"๋ก ์ค์ ์ ๋ ผ๋ฆฌ์ ์ธ ์๋ต์ด ๊ฐ๋ฅํ์ง๋ง ์๋ต ์๊ฐ์ด ๋์ด๋ ์ ์์ต๋๋ค.
BasePath๋ฅผ ์ค์ ํ๋ฉด Azure์์ ์ปค์คํ ๋๋ฉ์ธ/์๋ํฌ์ธํธ๋ฅผ ์ฌ์ฉํ ์ ์์ต๋๋ค.
์ฃผ์์ฌํญ
Azure ๋ฆฌ์์ค์ OpenAI ์๋น์ค๊ฐ ์ฌ์ ์ ์ค์ ๋์ด ์์ด์ผ ํ๋ฉฐ, API ํค์ ๋ชจ๋ธ ๋ฐฐํฌ ์ค์ ์ด ์๋ฃ๋ผ์ผ ํฉ๋๋ค.
๋ชจ๋ธ ์ด๋ฆ์ Azure์์ ๋ฐฐํฌํ Deployment ์ด๋ฆ๊ณผ ์ผ์นํด์ผ ํ๋ฉฐ, ๋จ์ ๋ชจ๋ธ๋ช (gpt-4 ๋ฑ)์ด ์๋์ ์ฃผ์ํด์ผ ํฉ๋๋ค.
GPT-4 ๋ชจ๋ธ ์ฌ์ฉ ์ ์ฒ๋ฆฌ ์ง์ฐ์ด ๋ฐ์ํ ์ ์์ผ๋ฉฐ, ๋์ Reasoning Effort์ ํจ๊ป ์ฌ์ฉํ ๊ฒฝ์ฐ ๋์ฑ ์ฆ๊ฐํฉ๋๋ค.
์ผ๋ถ ์ค์ ๊ฐ(์: Presence Penalty)์ด ๊ณผ๋ํ๊ฒ ๋์ผ๋ฉด ์๋ต์ด ๋น์ ์์ ์ผ๋ก ๋์ํ ์ ์์ต๋๋ค.
Last updated