AWS Bedrock
AWS Bedrock ๋ ธ๋๋ Amazon Bedrock ํ๋ซํผ์์ ์ ๊ณตํ๋ ๋ค์ํ LLM ๋ชจ๋ธ์ ํธ์ถํ ์ ์๋ ๋ฒ์ฉ LLM ๋ ธ๋์ ๋๋ค. Anthropic Claude, AI21, Amazon Titan, Meta Llama ๋ฑ ์ฌ๋ฌ ๋ฒค๋์ ๋ชจ๋ธ์ ๋จ์ผ ์ธํฐํ์ด์ค๋ก ํตํฉํ์ฌ ์ฌ์ฉํ ์ ์์ต๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ
AWS Bedrock์ ๋ฐฐํฌ๋ ๋ค์ํ LLM ๋ชจ๋ธ ํธ์ถ ๊ฐ๋ฅ
Region,Model Name,Temperature๋ฑ ์ฃผ์ ํ๋ผ๋ฏธํฐ ์ค์ ์ง์์บ์ ๊ธฐ๋ฅ์ ํตํด ๋์ผ ์์ฒญ ๋ฐ๋ณต ์ ์ฑ๋ฅ ์ต์ ํ
Amazon ๊ด๋ฆฌํ ์ธํ๋ผ ๊ธฐ๋ฐ์ผ๋ก ์ ๋ขฐ์ฑ ๋์ API ํธ์ถ ๊ฐ๋ฅ


์
๋ ฅ๊ฐ (Inputs)
Cache
๋์ผ ์์ฒญ์ ๋ํด ์๋ต ์บ์ ์ฌ์ฉ ์ฌ๋ถ (ON/OFF)
์ ํ
AWS Credential
AWS Bedrock ํธ์ถ์ฉ ์ธ์ฆ ์ ๋ณด (Credential์ ๋ฑ๋ก)
ํ์
Region
์ฌ์ฉ ์ค์ธ AWS Bedrock ๋ฆฌ์ (์: us-east-1)
ํ์
Model Name
์ฌ์ฉํ LLM ๋ชจ๋ธ ์ด๋ฆ (์: anthropic.claude-v2)
ํ์
Custom Model Name
๋ณ๋๋ก ์ ์ํ ์ฌ์ฉ์ ๋ชจ๋ธ๋ช (์ ํ)
์ ํ
ํ๋ผ๋ฏธํฐ (Parameters)
Temperature
์ถ๋ ฅ ํ ์คํธ์ ์ฐฝ์์ฑ ์ ๋ (0.0 ~ 1.0, ๊ธฐ๋ณธ๊ฐ: 0.7)
Max Tokens to Sample
์์ฑํ ์ต๋ ํ ํฐ ์ (์: 200)
์ถ๋ ฅ๊ฐ (Outputs)
AWSBedrock
Bedrock LLM ์๋ต ๊ฒฐ๊ณผ (ํ ์คํธ ๋๋ JSON ํ์ ํฌํจ ๊ฐ๋ฅ)
ํ์ฉ ์์
Claude ๊ธฐ๋ฐ ๋ํํ QA ์์คํ ๊ตฌ์ฑ (์:
anthropic.claude-v2)Amazon Titan ๋ชจ๋ธ์ ํ์ฉํ ํ ์คํธ ์์ฑ ๋ฐ ์๋ํ ์๋ต ์ฒ๋ฆฌ
๋์ผ ์ํฌํ๋ก์ฐ ๋ด์์ ๋ค์ํ ๋ชจ๋ธ์ ๋น๊ต ํ ์คํธํ๋ ๋ฉํฐ LLM ์ค์
์ฌ๋ด ์์คํ ๊ณผ AWS ๊ธฐ๋ฐ API ์ฐ๋ํ์ฌ LLM ์๋ต ์ฒ๋ฆฌ ์๋ํ ๊ตฌ์ถ
์ฌ์ฉ ํ
Model Name์๋ Bedrock์์ ์ง์ํ๋ ์ ํํ ๋ชจ๋ธ๋ช (๋ฒค๋.๋ชจ๋ธ๋ช )์ ์ ๋ ฅํด์ผ ํฉ๋๋ค.์:
anthropic.claude-v2,amazon.titan-text-express-v1,meta.llama2-13b-chat-v1
Temperature๋ ๋์์๋ก ์ฐฝ์์ ์ธ ์๋ต์ด ๋์ค๋ฉฐ, ๋ฎ์์๋ก ์ผ๊ด๋ ์๋ต์ด ์์ฑ๋ฉ๋๋ค.์๋ต์ด ๋๋ฌด ์งง์ ๊ฒฝ์ฐ
Max Tokens to Sample๊ฐ์ ๋๋ ค์ ์ถ๋ ฅ ๋ฒ์๋ฅผ ํ์ฅํ์ธ์.๋ค์ํ ๋ชจ๋ธ์ ์คํํด๋ณด๊ธฐ ์ํด
Custom Model Name์ ์ฌ์ฉํ๋ฉด ์ํฌํ๋ก์ฐ ๊ด๋ฆฌ๊ฐ ์ฌ์์ง๋๋ค.
์ฃผ์์ฌํญ
AWS Bedrock์ ๊ธฐ๋ณธ์ ์ผ๋ก ์ ๋ฃ API์ด๋ฉฐ, ๋ชจ๋ธ๋ณ ์๊ธ ๋จ๊ฐ๊ฐ ์์ดํ๋ฏ๋ก ์ฌ์ ํ์ธ์ด ํ์ํฉ๋๋ค.
Model Name์ ์๋ชป ์ ๋ ฅํ๋ฉด "Model not found" ์ค๋ฅ๊ฐ ๋ฐ์ํฉ๋๋ค. ๊ณต์ ๋ฌธ์์์ ์ ํํ ๋ช ์นญ์ ํ์ธํ์ธ์.์ผ๋ถ ๋ชจ๋ธ์ ํน์ ๋ฆฌ์ ์์๋ง ์ฌ์ฉ ๊ฐ๋ฅํ๋ฏ๋ก
Region์ ํ ์ ์ ์ฝ์ฌํญ์ ๊ณ ๋ คํด์ผ ํฉ๋๋ค.Max Tokens to Sample๊ฐ์ด ๋๋ฌด ํฌ๋ฉด ์๊ธ์ด ๊ณผ๋ค ๋ฐ์ํ๊ฑฐ๋ ์๋ต์ด ์ง์ฐ๋ ์ ์์ผ๋ ์ ์ ํ ์ค์ ํด์ผ ํฉ๋๋ค.
Last updated