MistralAI Embeddings

MistralAI Embeddings ๋…ธ๋“œ๋Š” Mistral์—์„œ ์ œ๊ณตํ•˜๋Š” ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ(mistral-embed)์„ ์‚ฌ์šฉํ•˜์—ฌ ํ…์ŠคํŠธ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฒกํ„ฐ๋กœ ๋ณ€ํ™˜ํ•˜๋Š” ๋…ธ๋“œ์ž…๋‹ˆ๋‹ค. ๊ณ ์† ๋Œ€์šฉ๋Ÿ‰ ์ฒ˜๋ฆฌ์— ์ ํ•ฉํ•œ ๊ตฌ์กฐ๋กœ ์„ค๊ณ„๋˜์–ด ์žˆ์œผ๋ฉฐ, ๋‹ค์–‘ํ•œ ํ…์ŠคํŠธ ๊ธฐ๋ฐ˜ AI ํŒŒ์ดํ”„๋ผ์ธ์—์„œ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ๊ณ ์„ฑ๋Šฅ ๋ฒกํ„ฐ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • Mistral์˜ ์ตœ์‹  ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•˜์—ฌ ๊ณ ํ’ˆ์งˆ ๋ฒกํ„ฐ ์ƒ์„ฑ

  • ์ตœ๋Œ€ 512๊ฑด์˜ ํ…์ŠคํŠธ๋ฅผ ํ•œ ๋ฒˆ์— ์ฒ˜๋ฆฌ ๊ฐ€๋Šฅํ•œ ๋Œ€๊ทœ๋ชจ Batch ์ง€์›

  • ๊ฐœํ–‰ ๋ฌธ์ž ์ œ๊ฑฐ ์˜ต์…˜, ์‚ฌ์šฉ์ž ์ง€์ • Endpoint ๋“ฑ ์œ ์—ฐํ•œ ์„ค์ • ๊ฐ€๋Šฅ

  • ๋น ๋ฅด๊ณ  ์•ˆ์ •์ ์ธ ๋ฒกํ„ฐ ์ถ”์ถœ๋กœ ์‹ค์‹œ๊ฐ„ ๊ฒ€์ƒ‰ ๋ฐ ์ถ”์ฒœ ์‹œ์Šคํ…œ์— ์ ํ•ฉ

WindyFlo MistralAI Embeddings
WindyFlo MistralAI Embeddings Parameters

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

Connect Credential

Mistral API ์ธ์ฆ ์ •๋ณด (Credential์— ๋“ฑ๋ก)

ํ•„์ˆ˜

Model Name

์‚ฌ์šฉํ•  ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ ์ด๋ฆ„ (mistral-embed)

ํ•„์ˆ˜


ํŒŒ๋ผ๋ฏธํ„ฐ (Parameters)

ํ•ญ๋ชฉ
์„ค๋ช…

Batch Size

ํ•œ ๋ฒˆ์— ์ฒ˜๋ฆฌํ•  ํ…์ŠคํŠธ ์ˆ˜ (๊ธฐ๋ณธ๊ฐ’: 512)

Strip New Lines

์ค„๋ฐ”๊ฟˆ ๋ฌธ์ž ์ œ๊ฑฐ ์—ฌ๋ถ€ (๊ธฐ๋ณธ๊ฐ’: ON)

Override Endpoint

๊ธฐ๋ณธ Mistral Endpoint ๋Œ€์‹  ์‚ฌ์šฉํ•  ์‚ฌ์šฉ์ž ์ง€์ • Endpoint (์„ ํƒ)


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

MistralAIEmbeddings

์ž…๋ ฅ ํ…์ŠคํŠธ์— ๋Œ€ํ•œ ์ž„๋ฒ ๋”ฉ ๋ฒกํ„ฐ ๋ฐฐ์—ด ๊ฒฐ๊ณผ


ํ™œ์šฉ ์˜ˆ์‹œ

  • RAG ํŒŒ์ดํ”„๋ผ์ธ์—์„œ ๊ฒ€์ƒ‰์šฉ ๋ฌธ์„œ ๋ฒกํ„ฐ ์ƒ์„ฑ

  • ์œ ์‚ฌํ•œ ๋‰ด์Šค ๊ธฐ์‚ฌ, ์ œํ’ˆ ์„ค๋ช… ๋“ฑ์„ ๋ถ„์„ํ•˜๊ธฐ ์œ„ํ•œ ์ž„๋ฒ ๋”ฉ ๋น„๊ต

  • ๋Œ€๋Ÿ‰ ์ž…๋ ฅ ํ…์ŠคํŠธ๋ฅผ ๊ณ ์†์œผ๋กœ ๋ฒกํ„ฐํ™”ํ•˜์—ฌ ๋ฒกํ„ฐ DB ์‚ฝ์ž…

  • ์ค„๋ฐ”๊ฟˆ ์ œ๊ฑฐ๋ฅผ ํ†ตํ•ด ์ผ๊ด€๋œ ๋ฒกํ„ฐ ํ‘œํ˜„์ด ํ•„์š”ํ•œ ์ฑ—๋ด‡ ์ž…๋ ฅ ๋ฒกํ„ฐ ์ƒ์„ฑ


์‚ฌ์šฉ ํŒ

  • Batch Size๋Š” ์ตœ๋Œ€ 512๊นŒ์ง€ ์ง€์›๋˜๋ฉฐ, ๋Œ€์šฉ๋Ÿ‰ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ์— ์œ ๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ๋„ˆ๋ฌด ํฐ ๊ฐ’์„ ์„ค์ •ํ•˜๋ฉด ์š”์ฒญ ์‹คํŒจ ๊ฐ€๋Šฅ์„ฑ์ด ์žˆ์œผ๋ฏ€๋กœ ํ™˜๊ฒฝ์— ๋งž๊ฒŒ ์กฐ์ •ํ•˜์„ธ์š”.

  • Strip New Lines๋ฅผ ํ™œ์„ฑํ™”ํ•˜๋ฉด ์ค„๋ฐ”๊ฟˆ ๋ฌธ์ž๊ฐ€ ๋ฒกํ„ฐ ๊ฒฐ๊ณผ์— ์˜ํ–ฅ์„ ์ฃผ์ง€ ์•Š๋„๋ก ์‚ฌ์ „ ์ •์ œ๋ฉ๋‹ˆ๋‹ค. LLM ์ž…๋ ฅ ์‹œ์—๋„ ์ด ์„ค์ •์ด ์œ ํšจํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • Override Endpoint๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ์ž์ฒด ํ”„๋ก์‹œ ์„œ๋ฒ„๋‚˜ ์ปค์Šคํ…€ API Gateway๋ฅผ ํ†ตํ•ด ํ˜ธ์ถœํ•  ์ˆ˜ ์žˆ์–ด ๋ณด์•ˆ๊ณผ ๋ผ์šฐํŒ… ์œ ์—ฐ์„ฑ์ด ํ™•๋ณด๋ฉ๋‹ˆ๋‹ค.

  • Model Name์€ ํ˜„์žฌ mistral-embed๋กœ ๊ณ ์ •๋˜๋ฉฐ, ์ถ”ํ›„ ์ถ”๊ฐ€ ๋ชจ๋ธ์ด ์ƒ๊ธธ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.


์ฃผ์˜์‚ฌํ•ญ

  • API Credential์ด ์—†๊ฑฐ๋‚˜ ์ž˜๋ชป๋œ ๊ฒฝ์šฐ ํ˜ธ์ถœ์ด ์‹คํŒจํ•˜๋ฉฐ, ์‘๋‹ต ๋ฉ”์‹œ์ง€๋ฅผ ํ†ตํ•ด ์˜ค๋ฅ˜ ์œ ํ˜•์„ ํ™•์ธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • Override Endpoint๋ฅผ ์‚ฌ์šฉํ•  ๊ฒฝ์šฐ, CORS ์ •์ฑ…, ์ธ์ฆ ํ—ค๋” ๋“ฑ์„ ๋ณ„๋„๋กœ ์„ค์ •ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

  • ์ค„๋ฐ”๊ฟˆ ์ œ๊ฑฐ๋Š” ํ…์ŠคํŠธ ์˜๋ฏธ๋ฅผ ์ผ๋ถ€ ๋ณ€๊ฒฝํ•  ์ˆ˜ ์žˆ์œผ๋ฏ€๋กœ ์ƒํ™ฉ์— ๋”ฐ๋ผ ๋น„ํ™œ์„ฑํ™”๊ฐ€ ํ•„์š”ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • ๊ณผ๋„ํ•œ Batch Size ์‚ฌ์šฉ ์‹œ ์ฒ˜๋ฆฌ ์‹œ๊ฐ„ ์ง€์—ฐ ๋˜๋Š” API ์ œํ•œ์— ๋„๋‹ฌํ•  ์ˆ˜ ์žˆ์œผ๋ฏ€๋กœ ์‹คํ™˜๊ฒฝ ํ…Œ์ŠคํŠธ๊ฐ€ ๊ถŒ์žฅ๋ฉ๋‹ˆ๋‹ค.

Last updated