AWS ChatBedrock
AWS ChatBedrock ๋ ธ๋๋ Amazon Bedrock์ ํตํด ๋ค์ํ LLM(Chat Model)์ ํธ์ถํ ์ ์๋ ์ธํฐํ์ด์ค๋ฅผ ์ ๊ณตํฉ๋๋ค. Bedrock์์ ์ง์ํ๋ ๋ชจ๋ธ์ ์ ํํ์ฌ, ํ๋กฌํํธ ์ ๋ ฅ ๊ธฐ๋ฐ์ ์๋ต ์์ฑ์ ์ํํ ์ ์์ต๋๋ค. ํนํ Anthropic Claude, AI21, Amazon Titan ๋ฑ ์ฌ๋ฌ ๋ชจ๋ธ ์ค ์ ํ์ ์ผ๋ก ์ฌ์ฉํ ์ ์์ต๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ
AWS Bedrock ๊ธฐ๋ฐ LLM ํธ์ถ์ ์ง์ํฉ๋๋ค.
Region๊ณผ Model์ ์ ํํ์ฌ ์ํ๋ ๋ชจ๋ธ ํ๊ฒฝ์ ์ค์ ํ ์ ์์ต๋๋ค.
์ด๋ฏธ์ง ์ ๋ก๋ ์ฌ์ฉ ์ฌ๋ถ, ์ฌ์ฉ์ ์ ์ ๋ชจ๋ธ ์ด๋ฆ ๋ฑ ์ถ๊ฐ ์ค์ ์ด ๊ฐ๋ฅํฉ๋๋ค.
Streaming,Temperature,Max Tokens to Sample๋ฑ ์ฃผ์ ํ๋ผ๋ฏธํฐ๋ฅผ ์กฐ์ ํ์ฌ ์๋ต ํน์ฑ์ ์ ์ดํ ์ ์์ต๋๋ค.Credential์ ๋ฑ๋ก๋ AWS ํค๋ฅผ ํตํด ์ธ์ฆํ๋ฉฐ, us-east-1 ๋ฆฌ์ ์ ๊ธฐ๋ณธ์ผ๋ก ์ฌ์ฉํฉ๋๋ค.


์
๋ ฅ๊ฐ (Inputs)
AWS Credential
AWS Bedrock์ ์ ๊ทผํ ์ ์๋ Credential์ ๋ฑ๋ก๋ ์๊ฒฉ ์ ๋ณด
ํ์
Region
์ฌ์ฉํ AWS ๋ฆฌ์ (e.g., us-east-1)
ํ์
Model Name
์ฌ์ฉํ Bedrock ๋ชจ๋ธ ์ด๋ฆ(e.g., anthropic.claude-3-haiku)
ํ์
Custom Model Name
์ฌ์ฉ์ ์ง์ ๋ชจ๋ธ ๋ช ์นญ(ํ์์ฉ)
์ ํ
Allow Image Uploads
์ด๋ฏธ์ง ์ ๋ก๋ ํ์ฉ ์ฌ๋ถ
์ ํ
ํ๋ผ๋ฏธํฐ (Parameters)
Streaming
์๋ต์ ์คํธ๋ฆฌ๋ฐ ๋ฐฉ์์ผ๋ก ๋ฐ์์ง ์ฌ๋ถ (๊ธฐ๋ณธ๊ฐ: ํ์ฑํ)
Temperature
์ถ๋ ฅ ๋ค์์ฑ ์ ์ด ๊ฐ. 0.0 ~ 1.0 ์ฌ์ด ๊ฐ ์ค์ ๊ฐ๋ฅ (๊ธฐ๋ณธ๊ฐ: 0.7)
Max Tokens to Sample
์ถ๋ ฅ ํ ํฐ ์ ์ ํ (๊ธฐ๋ณธ๊ฐ: 200)
์ถ๋ ฅ๊ฐ (Outputs)
AWSChatBedrock
AWS Bedrock์ ํตํด ์์ฑ๋ ์๋ต ๊ฒฐ๊ณผ ๊ฐ์ฒด
ํ์ฉ ์์
๊ณ ๊ฐ์ผํฐ ์ฑ๋ด์ Claude ๋ชจ๋ธ์ ์ฐ๋ํ์ฌ, ๊ณ ๊ฐ ๋ฌธ์์ ๋ํด ์์ฐ์ค๋ฝ๊ณ ์ ๋ขฐ๋ ๋์ ์๋ต์ ์ ๊ณต
์ฌ๋ด ์์ง์์ฉ Q&A ์๋น์ค์ Claude 3๋ฅผ ์ฐ๊ฒฐํด, ์ ์ฑ ๋ฌธ์๋ ์ธ์ฌ ์ ๋ณด๋ฅผ ์์ฐ์ด๋ก ์กฐํ ๊ฐ๋ฅํ๊ฒ ๊ตฌ์ฑ
์ ์์๊ฑฐ๋ ํ๋ซํผ์์ ์ฌ์ฉ์์ ์ง๋ฌธ์ ๊ธฐ๋ฐํ ์ํ ์ถ์ฒ ์๋ต์ ์ค์๊ฐ์ผ๋ก ์์ฑ
๊ต์ก ์ฝํ ์ธ ํ๋ซํผ์์ ํ์์ ์ง๋ฌธ์ ์ค์๊ฐ์ผ๋ก ์ดํดํ๊ณ , ๊ด๋ จ ๊ฐ๋ ์ ์ค๋ช ํ๋ ํ์ต ๋์ฐ๋ฏธ ๊ตฌํ
์ฌ์ฉ ํ
Token ์ ์กฐ์ ์ ํตํด ๋น์ฉ๊ณผ ์๋ต ์๊ฐ ์ต์ ํ ๊ฐ๋ฅ
Streaming์ ํ์ฑํํ๋ฉด ๋ํํ UX์์ ์๋ต ์ง์ฐ์ ์ค์ผ ์ ์์
Region, Model Name์ ์ ํํ ์ ๋ ฅํ์ง ์์ผ๋ฉด ์ค๋ฅ ๋ฐ์ ๊ฐ๋ฅ
์ฃผ์์ฌํญ
AWS Bedrock ์ฌ์ฉ์ ์ํด ์ฌ์ ์๋น์ค ์ ์ฒญ ๋ฐ ๊ถํ ์ค์ ํ์
์ ๋ ฅ๋ ํ ํฐ ์ ๋ฐ ์ถ๋ ฅ ํ ํฐ ์์ ๋ฐ๋ผ ์๊ธ์ด ๋ฐ์
ํ์ฉ๋ ๋ชจ๋ธ ์ธ์ Model Name ์ ๋ ฅ ์ ์ค๋ฅ ๋ฐ์
AWS Credential์ ๋ฑ๋ก๋ ํค๊ฐ ์์ ๊ฒฝ์ฐ ์คํ ๋ถ๊ฐ
Last updated