Azure OpenAI Embeddings

Azure OpenAI Embeddings ๋…ธ๋“œ๋Š” Azure๋ฅผ ํ†ตํ•ด ๋ฐฐํฌ๋œ OpenAI ๋ชจ๋ธ์„ ์ด์šฉํ•˜์—ฌ ํ…์ŠคํŠธ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฒกํ„ฐ ์ž„๋ฒ ๋”ฉ์œผ๋กœ ๋ณ€ํ™˜ํ•ฉ๋‹ˆ๋‹ค. ์ด ์ž„๋ฒ ๋”ฉ ๋ฒกํ„ฐ๋Š” ๊ฒ€์ƒ‰, ๋ถ„๋ฅ˜, ์ถ”์ฒœ ๋“ฑ ๋‹ค์–‘ํ•œ AI ํŒŒ์ดํ”„๋ผ์ธ์—์„œ ํ™œ์šฉ๋  ์ˆ˜ ์žˆ์œผ๋ฉฐ, OpenAI์˜ ๊ฐ•๋ ฅํ•œ ์–ธ์–ด ํ‘œํ˜„๋ ฅ๊ณผ Azure์˜ ์ธํ”„๋ผ ์•ˆ์ •์„ฑ์„ ํ•จ๊ป˜ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • Azure์— ๋ฐฐํฌ๋œ OpenAI ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ์„ ํ†ตํ•ด ํ…์ŠคํŠธ๋ฅผ ๋ฒกํ„ฐ๋กœ ๋ณ€ํ™˜

  • Batch ๋‹จ์œ„๋กœ ์—ฌ๋Ÿฌ ์ž…๋ ฅ์„ ํ•œ ๋ฒˆ์— ์ฒ˜๋ฆฌํ•˜์—ฌ ํšจ์œจ์ ์ธ ์ž„๋ฒ ๋”ฉ ์ˆ˜ํ–‰

  • API ์š”์ฒญ ์‹œ๊ฐ„ ์ œํ•œ, ๊ฒฝ๋กœ ์„ค์ • ๋“ฑ Azure ํ™˜๊ฒฝ์— ์ตœ์ ํ™”๋œ ํŒŒ๋ผ๋ฏธํ„ฐ ์ œ๊ณต

  • ๊ฒฐ๊ณผ ๋ฒกํ„ฐ๋Š” ๋‹ค์–‘ํ•œ Vector Store ๋˜๋Š” ๋ถ„์„ ํŒŒ์ดํ”„๋ผ์ธ์— ํ™œ์šฉ ๊ฐ€๋Šฅ

WindyFlo Azure OpenAI Embeddings
WindyFlo Azure OpenAI Embeddings Parameters

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

Connect Credential

Azure OpenAI API ํ˜ธ์ถœ์— ํ•„์š”ํ•œ ์ธ์ฆ ์ •๋ณด (Credential์— ๋“ฑ๋ก)

ํ•„์ˆ˜


ํŒŒ๋ผ๋ฏธํ„ฐ (Parameters)

ํ•ญ๋ชฉ
์„ค๋ช…

Batch Size

ํ•œ ๋ฒˆ์— ์ฒ˜๋ฆฌํ•  ํ…์ŠคํŠธ ์ˆ˜ (๊ธฐ๋ณธ๊ฐ’: 100)

Timeout

API ํ˜ธ์ถœ ์ œํ•œ ์‹œ๊ฐ„ (ms ๋‹จ์œ„, ์„ค์ • ์‹œ ์š”์ฒญ ์‹œ๊ฐ„ ์ดˆ๊ณผ ๋ฐฉ์ง€)

BasePath

Azure OpenAI ์„œ๋น„์Šค์˜ ์ปค์Šคํ…€ ์—”๋“œํฌ์ธํŠธ ๊ฒฝ๋กœ (ํ•„์š” ์‹œ ์ž…๋ ฅ)

BaseOptions

์ถ”๊ฐ€๋กœ ์ „๋‹ฌํ•  key-value ํ˜•์‹์˜ ์˜ต์…˜ (์˜ˆ: headers, params ๋“ฑ)


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

AzureOpenAIEmbeddings

์ž…๋ ฅ ํ…์ŠคํŠธ์— ๋Œ€ํ•œ ๋ฒกํ„ฐ ์ž„๋ฒ ๋”ฉ ๊ฒฐ๊ณผ ๋ฐฐ์—ด


ํ™œ์šฉ ์˜ˆ์‹œ

  • Azure ํ™˜๊ฒฝ์—์„œ ์šด์˜ ์ค‘์ธ ๋ฌธ์„œ ๊ธฐ๋ฐ˜ RAG ํŒŒ์ดํ”„๋ผ์ธ์— ๋ฒกํ„ฐ ์ƒ์„ฑ์šฉ์œผ๋กœ ํ™œ์šฉ

  • ๊ธฐ์—… ๋‚ด๋ถ€ ๋ณด์•ˆ ์š”๊ฑด์— ๋”ฐ๋ผ Azure์—์„œ ์ง์ ‘ ๊ด€๋ฆฌํ•˜๋Š” ๋ชจ๋ธ์„ ํ†ตํ•œ ์ž„๋ฒ ๋”ฉ ์ˆ˜ํ–‰

  • ์ž…๋ ฅ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฒกํ„ฐํ™”ํ•˜์—ฌ Pinecone, Weaviate ๋“ฑ ์™ธ๋ถ€ Vector Store์™€ ์—ฐ๊ณ„

  • ๊ฒ€์ƒ‰ ์œ ์‚ฌ๋„, ์นดํ…Œ๊ณ ๋ฆฌ ๋ถ„๋ฅ˜ ๋“ฑ ๋ฒกํ„ฐ ๊ธฐ๋ฐ˜ ML ๋ชจ๋ธ์˜ ์ž…๋ ฅ๊ฐ’ ์ƒ์„ฑ์— ์‚ฌ์šฉ


์‚ฌ์šฉ ํŒ

  • Batch Size๋ฅผ ๋†’์ด๋ฉด ์ฒ˜๋ฆฌ๋Ÿ‰์€ ์ฆ๊ฐ€ํ•˜์ง€๋งŒ, ์‘๋‹ต ํฌ๊ธฐ ์ดˆ๊ณผ๋กœ ์‹คํŒจํ•  ์ˆ˜ ์žˆ์œผ๋ฏ€๋กœ ํ…Œ์ŠคํŠธ ํ›„ ์ตœ์ ๊ฐ’ ์„ค์ •์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

  • Azure์—์„œ BasePath๋Š” ๋ชจ๋ธ ๋ฐฐํฌ ๊ฒฝ๋กœ์™€ ์ •ํ™•ํžˆ ์ผ์น˜ํ•ด์•ผ ํ•˜๋ฉฐ, ์„ค์ • ๋ˆ„๋ฝ ์‹œ ์˜ค๋ฅ˜๊ฐ€ ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค.

  • BaseOptions๋ฅผ ํ†ตํ•ด ์š”์ฒญ์— ์ปค์Šคํ…€ ํ—ค๋” ๋˜๋Š” ํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ์ถ”๊ฐ€ํ•˜๋ฉด ์ธ์ฆ ๋˜๋Š” ๋กœ๊น…์„ ์œ ์—ฐํ•˜๊ฒŒ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • Timeout์„ ์„ค์ •ํ•ด ์žฅ์‹œ๊ฐ„ ์ง€์—ฐ์— ๋Œ€๋น„ํ•˜๊ฑฐ๋‚˜ Azure API๊ฐ€ ์ผ์‹œ์ ์œผ๋กœ ์‘๋‹ต์ด ๋А๋ฆด ๊ฒฝ์šฐ๋ฅผ ์•ˆ์ •์ ์œผ๋กœ ์ œ์–ดํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.


์ฃผ์˜์‚ฌํ•ญ

  • Azure OpenAI ์„œ๋น„์Šค๋Š” ์‚ฌ์šฉ์ž ๊ณ„์ •์— ๋“ฑ๋ก๋œ ๋ชจ๋ธ ๋ฐฐํฌ ์ด๋ฆ„ ๋ฐ ๋ฆฌ์ „๊ณผ ์ •ํ™•ํžˆ ์ผ์น˜ํ•ด์•ผ ์ •์ƒ ํ˜ธ์ถœ๋ฉ๋‹ˆ๋‹ค.

  • ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ์ด ์•„๋‹Œ ์ผ๋ฐ˜ Chat ๋ชจ๋ธ๋กœ ๊ตฌ์„ฑ๋œ Azure ๋ฆฌ์†Œ์Šค๋ฅผ ์—ฐ๊ฒฐํ•  ๊ฒฝ์šฐ ์˜ค๋ฅ˜๊ฐ€ ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค.

  • Connect Credential ๋“ฑ๋ก ์‹œ Key ์ด๋ฆ„, ์—”๋“œํฌ์ธํŠธ, ๋ฆฌ์ „ ์ •๋ณด๊ฐ€ ์ •ํ™•ํžˆ ์ž…๋ ฅ๋˜์–ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

  • ์‚ฌ์šฉ๋Ÿ‰์ด ๋งŽ์„ ๊ฒฝ์šฐ Azure API ํ˜ธ์ถœ ์š”๊ธˆ์ด ๊ณผ๊ธˆ๋  ์ˆ˜ ์žˆ์œผ๋ฏ€๋กœ ํŠธ๋ž˜ํ”ฝ ์ œ์–ด ๋ฐ ์‚ฌ์šฉ๋Ÿ‰ ๋ชจ๋‹ˆํ„ฐ๋ง์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

Last updated