AWS Bedrock Embeddings

AWS Bedrock Embeddings ๋…ธ๋“œ๋Š” Amazon Titan ๋˜๋Š” Cohere ๋ชจ๋ธ์„ ํ™œ์šฉํ•ด ์ž…๋ ฅ ํ…์ŠคํŠธ๋ฅผ ๋ฒกํ„ฐ๋กœ ๋ณ€ํ™˜ํ•˜๋Š” ๋…ธ๋“œ์ž…๋‹ˆ๋‹ค. ๋ณ€ํ™˜๋œ ์ž„๋ฒ ๋”ฉ์€ ๋ฒกํ„ฐ ๊ฒ€์ƒ‰, ๋ถ„๋ฅ˜, ํด๋Ÿฌ์Šคํ„ฐ๋ง ๋“ฑ ๋‹ค์–‘ํ•œ ์šฉ๋„๋กœ ํ™œ์šฉ๋  ์ˆ˜ ์žˆ์œผ๋ฉฐ, AWS Bedrock API๋ฅผ ํ†ตํ•ด ์ง์ ‘ ์ž„๋ฒ ๋”ฉ์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • AWS Bedrock ๊ธฐ๋ฐ˜ ์ž„๋ฒ ๋”ฉ ์ƒ์„ฑ (Titan ๋ฐ Cohere ๋ชจ๋ธ ์ง€์›)

  • search, classification, clustering ๋“ฑ ๋‹ค์–‘ํ•œ ์šฉ๋„์— ๋”ฐ๋ฅธ ์ž…๋ ฅ ํƒ€์ž… ์ง€์ • ๊ฐ€๋Šฅ

  • ๋ฒกํ„ฐ ์ฐจ์› ์ˆ˜๋Š” ์„ ํƒํ•œ ๋ชจ๋ธ์— ๋”ฐ๋ผ ์ž๋™ ์„ค์ •๋จ

  • Batch ์ฒ˜๋ฆฌ ๋ฐ AWS ์žฌ์‹œ๋„ ํšŸ์ˆ˜ ์„ค์ •์œผ๋กœ ์•ˆ์ •์„ฑ ํ™•๋ณด

  • ๋ฒกํ„ฐ ์Šคํ† ์–ด ๊ตฌ์ถ•, ๊ฒ€์ƒ‰ ํŒŒ์ดํ”„๋ผ์ธ, ๋ถ„์„์šฉ ๋ฒกํ„ฐ ์ถ”์ถœ ๋“ฑ์— ํ™œ์šฉ

WindyFlo AWS Bedrock Embeddings
WindyFlo AWS Bedrock Embeddings Parameters

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

AWS Credential

AWS Bedrock API ์ ‘๊ทผ์„ ์œ„ํ•œ ์ธ์ฆ ์ •๋ณด (Credential์— ๋“ฑ๋ก)

ํ•„์ˆ˜

Region

์‚ฌ์šฉํ•  AWS ๋ฆฌ์ „ (์˜ˆ: us-east-1)

ํ•„์ˆ˜

Model Name

์‚ฌ์šฉํ•  ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ ์ด๋ฆ„ (์˜ˆ: amazon.titan-embed-text-v1 ๋“ฑ)

ํ•„์ˆ˜

Custom Model Name

์‚ฌ์šฉ์ž ์ง€์ • ๋ชจ๋ธ ์ด๋ฆ„ (์„ ํƒ ์‹œ ํ•ด๋‹น ๋ชจ๋ธ๋กœ ์š”์ฒญ)

์„ ํƒ

Cohere Input Type

Cohere ๋ชจ๋ธ์˜ ์‚ฌ์šฉ ๋ชฉ์ ์— ๋”ฐ๋ฅธ ์ž…๋ ฅ ํƒ€์ž… ์„ค์ • (์˜ˆ: search_document, classification ๋“ฑ)

์„ ํƒ


ํŒŒ๋ผ๋ฏธํ„ฐ (Parameters)

ํ•ญ๋ชฉ
์„ค๋ช…

Batch Size

ํ•œ ๋ฒˆ์— ์ฒ˜๋ฆฌํ•  ์ž„๋ฒ ๋”ฉ ํ…์ŠคํŠธ ์ˆ˜ (๊ธฐ๋ณธ๊ฐ’: 50)

Max AWS API retries

์‹คํŒจ ์‹œ ์ตœ๋Œ€ ์žฌ์‹œ๋„ ํšŸ์ˆ˜ (๊ธฐ๋ณธ๊ฐ’: 5)


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

AWSBedrockEmbeddings

์ž…๋ ฅ ํ…์ŠคํŠธ์— ๋Œ€ํ•œ ์ž„๋ฒ ๋”ฉ ๋ฒกํ„ฐ ๊ฒฐ๊ณผ ๋ฐฐ์—ด


ํ™œ์šฉ ์˜ˆ์‹œ

  • Amazon Titan ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•ด ๋Œ€์šฉ๋Ÿ‰ ๋ฌธ์„œ๋ฅผ ๋ฒกํ„ฐํ™”ํ•˜์—ฌ Faiss, Pinecone ๋“ฑ์— ์ €์žฅ

  • ์‚ฌ์šฉ์ž ์งˆ๋ฌธ์„ search_query ํƒ€์ž…์œผ๋กœ ์ž„๋ฒ ๋”ฉํ•˜์—ฌ ๊ด€๋ จ ๋ฌธ์„œ๋ฅผ ๊ฒ€์ƒ‰ํ•˜๋Š” Retrieval ์‹œ์Šคํ…œ ๊ตฌ์ถ•

  • ํŠน์ • ์นดํ…Œ๊ณ ๋ฆฌ ๋ถ„๋ฅ˜๋ฅผ ์œ„ํ•ด classification์šฉ ์ž„๋ฒ ๋”ฉ ์ถ”์ถœ ํ›„ ML ๋ชจ๋ธ์— ์ž…๋ ฅ

  • clustering ๋ชฉ์ ์˜ ๋ฐ์ดํ„ฐ ๋ถ„์„์„ ์œ„ํ•ด ๊ณ ์ฐจ์› ๋ฒกํ„ฐ ์ƒ์„ฑ ํ›„ ํด๋Ÿฌ์Šคํ„ฐ๋ง ์ ์šฉ


์‚ฌ์šฉ ํŒ

  • Amazon Titan ๋ชจ๋ธ์€ v1์ด 1536์ฐจ์›, v2๋Š” 1024์ฐจ์›์œผ๋กœ ์ œ๊ณต๋˜๋ฏ€๋กœ ์šฉ๋„์— ๋”ฐ๋ผ ์„ ํƒํ•˜์„ธ์š”.

  • Cohere ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•  ๊ฒฝ์šฐ, Cohere Input Type์„ ๋ฐ˜๋“œ์‹œ ๋ชฉ์ ์— ๋งž๊ฒŒ ์„ค์ •ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

    • search_document: ๋ฒกํ„ฐ DB์— ์ €์žฅํ•  ๋ฌธ์„œ ํ…์ŠคํŠธ์šฉ

    • search_query: ๊ฒ€์ƒ‰์šฉ ์‚ฌ์šฉ์ž ์งˆ์˜ ํ…์ŠคํŠธ์šฉ

    • classification: ๋ถ„๋ฅ˜ ๋ชจ๋ธ ์ž…๋ ฅ์šฉ

    • clustering: ๊ตฐ์ง‘ ๋ถ„์„์šฉ โ†’ search_document์™€ search_query๋Š” RAG ํŒŒ์ดํ”„๋ผ์ธ์—์„œ ๋ฐ˜๋“œ์‹œ ์ง์œผ๋กœ ์‚ฌ์šฉํ•ด์•ผ ๊ฒ€์ƒ‰ ํ’ˆ์งˆ์ด ์œ ์ง€๋ฉ๋‹ˆ๋‹ค.

  • Batch Size๋Š” ๋„ˆ๋ฌด ํฌ๊ฒŒ ์„ค์ •ํ•˜๋ฉด ์†๋„๋Š” ๋นจ๋ผ์ง€์ง€๋งŒ, ์˜ค๋ฅ˜๊ฐ€ ๋ฐœ์ƒํ•  ๊ฐ€๋Šฅ์„ฑ๋„ ์ฆ๊ฐ€ํ•ฉ๋‹ˆ๋‹ค.

  • Titan ๋ชจ๋ธ์€ ๋‹ค๊ตญ์–ด ์ง€์›์ด ์ œํ•œ์ ์ด๋ฉฐ, ์˜์–ด ๋ฌธ์„œ์— ์ตœ์ ํ™”๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.


์ฃผ์˜์‚ฌํ•ญ

  • AWS Bedrock API ์‚ฌ์šฉ๋Ÿ‰์— ๋”ฐ๋ผ ๋น„์šฉ์ด ๋ฐœ์ƒํ•˜๋ฏ€๋กœ ์ฃผ์˜๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

  • Region ์„ค์ •์ด ์˜ฌ๋ฐ”๋ฅด์ง€ ์•Š๊ฑฐ๋‚˜ Credential์ด ๋“ฑ๋ก๋˜์ง€ ์•Š์€ ๊ฒฝ์šฐ ํ˜ธ์ถœ์ด ์‹คํŒจํ•ฉ๋‹ˆ๋‹ค.

  • Titan๊ณผ Cohere ๋ชจ๋ธ์€ ์ž„๋ฒ ๋”ฉ ์ฐจ์› ์ˆ˜๊ฐ€ ์ƒ์ดํ•˜๋ฏ€๋กœ ํ˜ผ์šฉ ์‹œ ์ฃผ์˜๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

  • Cohere Input Type์€ Cohere ๋ชจ๋ธ ์‚ฌ์šฉ ์‹œ์—๋งŒ ์˜๋ฏธ ์žˆ์œผ๋ฉฐ Titan์—๋Š” ์ ์šฉ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

Last updated