MistralAI Embeddings
MistralAI Embeddings ๋
ธ๋๋ Mistral์์ ์ ๊ณตํ๋ ์๋ฒ ๋ฉ ๋ชจ๋ธ(mistral-embed)์ ์ฌ์ฉํ์ฌ ํ
์คํธ ๋ฐ์ดํฐ๋ฅผ ๋ฒกํฐ๋ก ๋ณํํ๋ ๋
ธ๋์
๋๋ค. ๊ณ ์ ๋์ฉ๋ ์ฒ๋ฆฌ์ ์ ํฉํ ๊ตฌ์กฐ๋ก ์ค๊ณ๋์ด ์์ผ๋ฉฐ, ๋ค์ํ ํ
์คํธ ๊ธฐ๋ฐ AI ํ์ดํ๋ผ์ธ์์ ์ฌ์ฉํ ์ ์๋ ๊ณ ์ฑ๋ฅ ๋ฒกํฐ๋ฅผ ์ ๊ณตํฉ๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ
Mistral์ ์ต์ ์๋ฒ ๋ฉ ๋ชจ๋ธ์ ์ฌ์ฉํ์ฌ ๊ณ ํ์ง ๋ฒกํฐ ์์ฑ
์ต๋ 512๊ฑด์ ํ ์คํธ๋ฅผ ํ ๋ฒ์ ์ฒ๋ฆฌ ๊ฐ๋ฅํ ๋๊ท๋ชจ Batch ์ง์
๊ฐํ ๋ฌธ์ ์ ๊ฑฐ ์ต์ , ์ฌ์ฉ์ ์ง์ Endpoint ๋ฑ ์ ์ฐํ ์ค์ ๊ฐ๋ฅ
๋น ๋ฅด๊ณ ์์ ์ ์ธ ๋ฒกํฐ ์ถ์ถ๋ก ์ค์๊ฐ ๊ฒ์ ๋ฐ ์ถ์ฒ ์์คํ ์ ์ ํฉ


์
๋ ฅ๊ฐ (Inputs)
Connect Credential
Mistral API ์ธ์ฆ ์ ๋ณด (Credential์ ๋ฑ๋ก)
ํ์
Model Name
์ฌ์ฉํ ์๋ฒ ๋ฉ ๋ชจ๋ธ ์ด๋ฆ (mistral-embed)
ํ์
ํ๋ผ๋ฏธํฐ (Parameters)
Batch Size
ํ ๋ฒ์ ์ฒ๋ฆฌํ ํ ์คํธ ์ (๊ธฐ๋ณธ๊ฐ: 512)
Strip New Lines
์ค๋ฐ๊ฟ ๋ฌธ์ ์ ๊ฑฐ ์ฌ๋ถ (๊ธฐ๋ณธ๊ฐ: ON)
Override Endpoint
๊ธฐ๋ณธ Mistral Endpoint ๋์ ์ฌ์ฉํ ์ฌ์ฉ์ ์ง์ Endpoint (์ ํ)
์ถ๋ ฅ๊ฐ (Outputs)
MistralAIEmbeddings
์ ๋ ฅ ํ ์คํธ์ ๋ํ ์๋ฒ ๋ฉ ๋ฒกํฐ ๋ฐฐ์ด ๊ฒฐ๊ณผ
ํ์ฉ ์์
RAG ํ์ดํ๋ผ์ธ์์ ๊ฒ์์ฉ ๋ฌธ์ ๋ฒกํฐ ์์ฑ
์ ์ฌํ ๋ด์ค ๊ธฐ์ฌ, ์ ํ ์ค๋ช ๋ฑ์ ๋ถ์ํ๊ธฐ ์ํ ์๋ฒ ๋ฉ ๋น๊ต
๋๋ ์ ๋ ฅ ํ ์คํธ๋ฅผ ๊ณ ์์ผ๋ก ๋ฒกํฐํํ์ฌ ๋ฒกํฐ DB ์ฝ์
์ค๋ฐ๊ฟ ์ ๊ฑฐ๋ฅผ ํตํด ์ผ๊ด๋ ๋ฒกํฐ ํํ์ด ํ์ํ ์ฑ๋ด ์ ๋ ฅ ๋ฒกํฐ ์์ฑ
์ฌ์ฉ ํ
Batch Size๋ ์ต๋ 512๊น์ง ์ง์๋๋ฉฐ, ๋์ฉ๋ ๋ฐ์ดํฐ ์ฒ๋ฆฌ์ ์ ๋ฆฌํฉ๋๋ค. ๋๋ฌด ํฐ ๊ฐ์ ์ค์ ํ๋ฉด ์์ฒญ ์คํจ ๊ฐ๋ฅ์ฑ์ด ์์ผ๋ฏ๋ก ํ๊ฒฝ์ ๋ง๊ฒ ์กฐ์ ํ์ธ์.Strip New Lines๋ฅผ ํ์ฑํํ๋ฉด ์ค๋ฐ๊ฟ ๋ฌธ์๊ฐ ๋ฒกํฐ ๊ฒฐ๊ณผ์ ์ํฅ์ ์ฃผ์ง ์๋๋ก ์ฌ์ ์ ์ ๋ฉ๋๋ค. LLM ์ ๋ ฅ ์์๋ ์ด ์ค์ ์ด ์ ํจํ ์ ์์ต๋๋ค.Override Endpoint๋ฅผ ์ฌ์ฉํ๋ฉด ์์ฒด ํ๋ก์ ์๋ฒ๋ ์ปค์คํ API Gateway๋ฅผ ํตํด ํธ์ถํ ์ ์์ด ๋ณด์๊ณผ ๋ผ์ฐํ ์ ์ฐ์ฑ์ด ํ๋ณด๋ฉ๋๋ค.Model Name์ ํ์ฌmistral-embed๋ก ๊ณ ์ ๋๋ฉฐ, ์ถํ ์ถ๊ฐ ๋ชจ๋ธ์ด ์๊ธธ ์ ์์ต๋๋ค.
์ฃผ์์ฌํญ
API Credential์ด ์๊ฑฐ๋ ์๋ชป๋ ๊ฒฝ์ฐ ํธ์ถ์ด ์คํจํ๋ฉฐ, ์๋ต ๋ฉ์์ง๋ฅผ ํตํด ์ค๋ฅ ์ ํ์ ํ์ธํ ์ ์์ต๋๋ค.
Override Endpoint๋ฅผ ์ฌ์ฉํ ๊ฒฝ์ฐ, CORS ์ ์ฑ , ์ธ์ฆ ํค๋ ๋ฑ์ ๋ณ๋๋ก ์ค์ ํด์ผ ํฉ๋๋ค.์ค๋ฐ๊ฟ ์ ๊ฑฐ๋ ํ ์คํธ ์๋ฏธ๋ฅผ ์ผ๋ถ ๋ณ๊ฒฝํ ์ ์์ผ๋ฏ๋ก ์ํฉ์ ๋ฐ๋ผ ๋นํ์ฑํ๊ฐ ํ์ํ ์ ์์ต๋๋ค.
๊ณผ๋ํ Batch Size ์ฌ์ฉ ์ ์ฒ๋ฆฌ ์๊ฐ ์ง์ฐ ๋๋ API ์ ํ์ ๋๋ฌํ ์ ์์ผ๋ฏ๋ก ์คํ๊ฒฝ ํ ์คํธ๊ฐ ๊ถ์ฅ๋ฉ๋๋ค.
Last updated