AWS Bedrock Embeddings
AWS Bedrock Embeddings ๋ ธ๋๋ Amazon Titan ๋๋ Cohere ๋ชจ๋ธ์ ํ์ฉํด ์ ๋ ฅ ํ ์คํธ๋ฅผ ๋ฒกํฐ๋ก ๋ณํํ๋ ๋ ธ๋์ ๋๋ค. ๋ณํ๋ ์๋ฒ ๋ฉ์ ๋ฒกํฐ ๊ฒ์, ๋ถ๋ฅ, ํด๋ฌ์คํฐ๋ง ๋ฑ ๋ค์ํ ์ฉ๋๋ก ํ์ฉ๋ ์ ์์ผ๋ฉฐ, AWS Bedrock API๋ฅผ ํตํด ์ง์ ์๋ฒ ๋ฉ์ ์์ฑํฉ๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ
AWS Bedrock ๊ธฐ๋ฐ ์๋ฒ ๋ฉ ์์ฑ (Titan ๋ฐ Cohere ๋ชจ๋ธ ์ง์)
search,classification,clustering๋ฑ ๋ค์ํ ์ฉ๋์ ๋ฐ๋ฅธ ์ ๋ ฅ ํ์ ์ง์ ๊ฐ๋ฅ๋ฒกํฐ ์ฐจ์ ์๋ ์ ํํ ๋ชจ๋ธ์ ๋ฐ๋ผ ์๋ ์ค์ ๋จ
Batch ์ฒ๋ฆฌ ๋ฐ AWS ์ฌ์๋ ํ์ ์ค์ ์ผ๋ก ์์ ์ฑ ํ๋ณด
๋ฒกํฐ ์คํ ์ด ๊ตฌ์ถ, ๊ฒ์ ํ์ดํ๋ผ์ธ, ๋ถ์์ฉ ๋ฒกํฐ ์ถ์ถ ๋ฑ์ ํ์ฉ


์
๋ ฅ๊ฐ (Inputs)
AWS Credential
AWS Bedrock API ์ ๊ทผ์ ์ํ ์ธ์ฆ ์ ๋ณด (Credential์ ๋ฑ๋ก)
ํ์
Region
์ฌ์ฉํ AWS ๋ฆฌ์ (์: us-east-1)
ํ์
Model Name
์ฌ์ฉํ ์๋ฒ ๋ฉ ๋ชจ๋ธ ์ด๋ฆ (์: amazon.titan-embed-text-v1 ๋ฑ)
ํ์
Custom Model Name
์ฌ์ฉ์ ์ง์ ๋ชจ๋ธ ์ด๋ฆ (์ ํ ์ ํด๋น ๋ชจ๋ธ๋ก ์์ฒญ)
์ ํ
Cohere Input Type
Cohere ๋ชจ๋ธ์ ์ฌ์ฉ ๋ชฉ์ ์ ๋ฐ๋ฅธ ์ ๋ ฅ ํ์ ์ค์ (์: search_document, classification ๋ฑ)
์ ํ
ํ๋ผ๋ฏธํฐ (Parameters)
Batch Size
ํ ๋ฒ์ ์ฒ๋ฆฌํ ์๋ฒ ๋ฉ ํ ์คํธ ์ (๊ธฐ๋ณธ๊ฐ: 50)
Max AWS API retries
์คํจ ์ ์ต๋ ์ฌ์๋ ํ์ (๊ธฐ๋ณธ๊ฐ: 5)
์ถ๋ ฅ๊ฐ (Outputs)
AWSBedrockEmbeddings
์ ๋ ฅ ํ ์คํธ์ ๋ํ ์๋ฒ ๋ฉ ๋ฒกํฐ ๊ฒฐ๊ณผ ๋ฐฐ์ด
ํ์ฉ ์์
Amazon Titan ๋ชจ๋ธ์ ์ฌ์ฉํด ๋์ฉ๋ ๋ฌธ์๋ฅผ ๋ฒกํฐํํ์ฌ Faiss, Pinecone ๋ฑ์ ์ ์ฅ
์ฌ์ฉ์ ์ง๋ฌธ์
search_queryํ์ ์ผ๋ก ์๋ฒ ๋ฉํ์ฌ ๊ด๋ จ ๋ฌธ์๋ฅผ ๊ฒ์ํ๋ Retrieval ์์คํ ๊ตฌ์ถํน์ ์นดํ ๊ณ ๋ฆฌ ๋ถ๋ฅ๋ฅผ ์ํด
classification์ฉ ์๋ฒ ๋ฉ ์ถ์ถ ํ ML ๋ชจ๋ธ์ ์ ๋ ฅclustering๋ชฉ์ ์ ๋ฐ์ดํฐ ๋ถ์์ ์ํด ๊ณ ์ฐจ์ ๋ฒกํฐ ์์ฑ ํ ํด๋ฌ์คํฐ๋ง ์ ์ฉ
์ฌ์ฉ ํ
Amazon Titan ๋ชจ๋ธ์
v1์ด 1536์ฐจ์,v2๋ 1024์ฐจ์์ผ๋ก ์ ๊ณต๋๋ฏ๋ก ์ฉ๋์ ๋ฐ๋ผ ์ ํํ์ธ์.Cohere ๋ชจ๋ธ์ ์ฌ์ฉํ ๊ฒฝ์ฐ,
Cohere Input Type์ ๋ฐ๋์ ๋ชฉ์ ์ ๋ง๊ฒ ์ค์ ํด์ผ ํฉ๋๋ค.search_document: ๋ฒกํฐ DB์ ์ ์ฅํ ๋ฌธ์ ํ ์คํธ์ฉsearch_query: ๊ฒ์์ฉ ์ฌ์ฉ์ ์ง์ ํ ์คํธ์ฉclassification: ๋ถ๋ฅ ๋ชจ๋ธ ์ ๋ ฅ์ฉclustering: ๊ตฐ์ง ๋ถ์์ฉ โsearch_document์search_query๋ RAG ํ์ดํ๋ผ์ธ์์ ๋ฐ๋์ ์ง์ผ๋ก ์ฌ์ฉํด์ผ ๊ฒ์ ํ์ง์ด ์ ์ง๋ฉ๋๋ค.
Batch Size๋ ๋๋ฌด ํฌ๊ฒ ์ค์ ํ๋ฉด ์๋๋ ๋นจ๋ผ์ง์ง๋ง, ์ค๋ฅ๊ฐ ๋ฐ์ํ ๊ฐ๋ฅ์ฑ๋ ์ฆ๊ฐํฉ๋๋ค.Titan ๋ชจ๋ธ์ ๋ค๊ตญ์ด ์ง์์ด ์ ํ์ ์ด๋ฉฐ, ์์ด ๋ฌธ์์ ์ต์ ํ๋์ด ์์ต๋๋ค.
์ฃผ์์ฌํญ
AWS Bedrock API ์ฌ์ฉ๋์ ๋ฐ๋ผ ๋น์ฉ์ด ๋ฐ์ํ๋ฏ๋ก ์ฃผ์๊ฐ ํ์ํฉ๋๋ค.
Region ์ค์ ์ด ์ฌ๋ฐ๋ฅด์ง ์๊ฑฐ๋ Credential์ด ๋ฑ๋ก๋์ง ์์ ๊ฒฝ์ฐ ํธ์ถ์ด ์คํจํฉ๋๋ค.
Titan๊ณผ Cohere ๋ชจ๋ธ์ ์๋ฒ ๋ฉ ์ฐจ์ ์๊ฐ ์์ดํ๋ฏ๋ก ํผ์ฉ ์ ์ฃผ์๊ฐ ํ์ํฉ๋๋ค.
Cohere Input Type์ Cohere ๋ชจ๋ธ ์ฌ์ฉ ์์๋ง ์๋ฏธ ์์ผ๋ฉฐ Titan์๋ ์ ์ฉ๋์ง ์์ต๋๋ค.
Last updated