TogetherAIEmbedding

TogetherAIEmbedding ๋…ธ๋“œ๋Š” Together.ai ํ”Œ๋žซํผ์—์„œ ์ œ๊ณตํ•˜๋Š” ์‚ฌ์ „ ํ•™์Šต ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ์„ ํ˜ธ์ถœํ•˜์—ฌ ํ…์ŠคํŠธ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฒกํ„ฐ๋กœ ๋ณ€ํ™˜ํ•˜๋Š” ๋…ธ๋“œ์ž…๋‹ˆ๋‹ค. ๋‹ค์–‘ํ•œ ์˜คํ”ˆ์†Œ์Šค Sentence Transformers ๋ชจ๋ธ์„ API๋กœ ํŽธ๋ฆฌํ•˜๊ฒŒ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์–ด ๋น ๋ฅด๊ฒŒ RAG, ๊ฒ€์ƒ‰, ๋ถ„๋ฅ˜ ๊ธฐ๋ฐ˜ ์›Œํฌํ”Œ๋กœ์šฐ๋ฅผ ๊ตฌ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • Together.ai API๋ฅผ ํ†ตํ•ด ๊ณ ์„ฑ๋Šฅ ์ž„๋ฒ ๋”ฉ ๋ฒกํ„ฐ ์ƒ์„ฑ

  • sentence-transformers/msmarco-bert-base-dot-v5 ๋“ฑ ๋‹ค์–‘ํ•œ ์˜คํ”ˆ์†Œ์Šค ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ ์ง€์›

  • ์บ์‹œ ์„ค์ •์„ ํ†ตํ•ด ๋™์ผ ์š”์ฒญ์— ๋Œ€ํ•œ ๋ฐ˜๋ณต ์ฒ˜๋ฆฌ ๋น„์šฉ ์ ˆ๊ฐ ๊ฐ€๋Šฅ

  • ๊ฒ€์ƒ‰ ์ตœ์ ํ™”๋œ ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ๋กœ ๋ฒกํ„ฐ ๊ฒ€์ƒ‰ ์ •ํ™•๋„ ๊ฐœ์„ 

WindyFlo TogetherAIEmbedding

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

Cache

์บ์‹œ๋ฅผ ์‚ฌ์šฉํ• ์ง€ ์—ฌ๋ถ€ ์„ค์ •

์„ ํƒ

Connect Credential

Together.ai API ์ธ์ฆ ์ •๋ณด (Credential์— ๋“ฑ๋ก)

ํ•„์ˆ˜

Model Name

์‚ฌ์šฉํ•  ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ ์ด๋ฆ„ (์˜ˆ: sentence-transformers/msmarco-bert-base-dot-v5)

ํ•„์ˆ˜


ํŒŒ๋ผ๋ฏธํ„ฐ (Parameters)

โ€ป ๋ณ„๋„ ๊ณ ๊ธ‰ ํŒŒ๋ผ๋ฏธํ„ฐ๋Š” ์—†์Œ


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

TogetherAIEmbedding

์ž…๋ ฅ ํ…์ŠคํŠธ์— ๋Œ€ํ•œ ์ž„๋ฒ ๋”ฉ ๋ฒกํ„ฐ ๊ฒฐ๊ณผ ๋ฐฐ์—ด


ํ™œ์šฉ ์˜ˆ์‹œ

  • ๊ณ ์ •๋œ ์‚ฌ๋‚ด ๋ฌธ์„œ์— ๋Œ€ํ•ด msmarco ๊ธฐ๋ฐ˜ ์ž„๋ฒ ๋”ฉ์œผ๋กœ RAG ๊ฒ€์ƒ‰ ์ •ํ™•๋„ ๊ฐœ์„ 

  • ์œ ์‚ฌ๋„ ๊ธฐ๋ฐ˜ ์ถ”์ฒœ ์‹œ์Šคํ…œ์—์„œ ๋น ๋ฅด๊ณ  ์ •ํ™•ํ•œ ๋ฌธ์žฅ ๋ฒกํ„ฐ ์ƒ์„ฑ

  • ์˜คํ”ˆ์†Œ์Šค ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ์„ API ํ˜ธ์ถœ ํ˜•ํƒœ๋กœ ๊ฐ„ํŽธํ•˜๊ฒŒ ํ™œ์šฉ

  • ์บ์‹œ ๋…ธ๋“œ์—ฐ๊ฒฐ๊ฒฐ์„ ํ†ตํ•ด ๋™์ผ ์งˆ์˜๊ฐ€ ๋ฐ˜๋ณต๋˜๋Š” ์ƒํ™ฉ์—์„œ ์„ฑ๋Šฅ๊ณผ ๋น„์šฉ ์ตœ์ ํ™”


์‚ฌ์šฉ ํŒ

  • ๊ธฐ๋ณธ ๋ชจ๋ธ๋กœ ์ž์ฃผ ํ™œ์šฉ๋˜๋Š” sentence-transformers/msmarco-bert-base-dot-v5๋Š” ๊ฒ€์ƒ‰์— ์ตœ์ ํ™”๋œ ๊ตฌ์กฐ์ž…๋‹ˆ๋‹ค.

  • ์บ์‹œ ๋…ธ๋“œ๋ฅผ ์—ฐ๊ฒฐํ•˜๋ฉด ๋™์ผํ•œ ์ž…๋ ฅ์— ๋Œ€ํ•œ ์žฌ์š”์ฒญ ์‹œ API ๋น„์šฉ์„ ์ค„์ด๊ณ  ์‘๋‹ต ์†๋„๋ฅผ ํ–ฅ์ƒ์‹œํ‚ฌ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • Together.ai๋Š” OpenAI๋ณด๋‹ค ์ €๋ ดํ•œ ๊ฐ€๊ฒฉ๊ณผ ์˜คํ”ˆ๋ชจ๋ธ ๊ธฐ๋ฐ˜ ๊ตฌ์„ฑ์ด ๊ฐ€๋Šฅํ•˜๋ฏ€๋กœ ๋น„์šฉ ํšจ์œจ์ ์ธ ๋ฒกํ„ฐ ์ƒ์„ฑ์ด ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.

  • ๋ชจ๋ธ ์ด๋ฆ„์€ Together.ai๊ฐ€ ์ง€์›ํ•˜๋Š” ๋ชจ๋ธ ๋ชฉ๋ก ์ค‘ ์ •ํ™•ํ•œ ์ด๋ฆ„์œผ๋กœ ์ž…๋ ฅํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.


์ฃผ์˜์‚ฌํ•ญ

  • Connect Credential ๋ˆ„๋ฝ ์‹œ ํ˜ธ์ถœ์ด ์‹คํŒจํ•˜๋ฉฐ, ์ธ์ฆ ์˜ค๋ฅ˜๊ฐ€ ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค.

  • ๋ชจ๋ธ ์ด๋ฆ„์€ Together.ai๊ฐ€ ์‚ฌ์ „ ๋ฐฐํฌํ•œ ๋ชจ๋ธ๋ช…๊ณผ ์ •ํ™•ํžˆ ์ผ์น˜ํ•ด์•ผ ํ•˜๋ฉฐ, ์˜คํƒ€ ๋˜๋Š” ๋ฏธ์ง€์› ๋ชจ๋ธ์€ ์˜ค๋ฅ˜ ์›์ธ์ด ๋ฉ๋‹ˆ๋‹ค.

  • ์บ์‹œ ์„ค์ •์€ ์ž„๋ฒ ๋”ฉ ์ •ํ™•๋„์— ์˜ํ–ฅ์„ ์ฃผ์ง€ ์•Š์ง€๋งŒ, ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์šฉ๋Ÿ‰์ด ์ฆ๊ฐ€ํ•  ์ˆ˜ ์žˆ์œผ๋ฏ€๋กœ ์‚ฌ์šฉ ํ™˜๊ฒฝ์— ๋งž๊ฒŒ ์กฐ์ •ํ•˜์„ธ์š”.

  • Together.ai API ์‚ฌ์šฉ๋Ÿ‰์— ๋”ฐ๋ผ ์š”๊ธˆ์ด ๋ฐœ์ƒํ•˜๋ฉฐ, ์‚ฌ์ „์— ์‚ฌ์šฉ๋Ÿ‰ ์˜ˆ์ธก์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

Last updated