AWS ChatBedrock

AWS ChatBedrock ๋…ธ๋“œ๋Š” Amazon Bedrock์„ ํ†ตํ•ด ๋‹ค์–‘ํ•œ LLM(Chat Model)์„ ํ˜ธ์ถœํ•  ์ˆ˜ ์žˆ๋Š” ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. Bedrock์—์„œ ์ง€์›ํ•˜๋Š” ๋ชจ๋ธ์„ ์„ ํƒํ•˜์—ฌ, ํ”„๋กฌํ”„ํŠธ ์ž…๋ ฅ ๊ธฐ๋ฐ˜์˜ ์‘๋‹ต ์ƒ์„ฑ์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ํŠนํžˆ Anthropic Claude, AI21, Amazon Titan ๋“ฑ ์—ฌ๋Ÿฌ ๋ชจ๋ธ ์ค‘ ์„ ํƒ์ ์œผ๋กœ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ฃผ์š” ๊ธฐ๋Šฅ

  • AWS Bedrock ๊ธฐ๋ฐ˜ LLM ํ˜ธ์ถœ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.

  • Region๊ณผ Model์„ ์„ ํƒํ•˜์—ฌ ์›ํ•˜๋Š” ๋ชจ๋ธ ํ™˜๊ฒฝ์„ ์„ค์ •ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • ์ด๋ฏธ์ง€ ์—…๋กœ๋“œ ์‚ฌ์šฉ ์—ฌ๋ถ€, ์‚ฌ์šฉ์ž ์ •์˜ ๋ชจ๋ธ ์ด๋ฆ„ ๋“ฑ ์ถ”๊ฐ€ ์„ค์ •์ด ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.

  • Streaming, Temperature, Max Tokens to Sample ๋“ฑ ์ฃผ์š” ํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ์กฐ์ •ํ•˜์—ฌ ์‘๋‹ต ํŠน์„ฑ์„ ์ œ์–ดํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • Credential์— ๋“ฑ๋ก๋œ AWS ํ‚ค๋ฅผ ํ†ตํ•ด ์ธ์ฆํ•˜๋ฉฐ, us-east-1 ๋ฆฌ์ „์„ ๊ธฐ๋ณธ์œผ๋กœ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค.

WindyFlo AWS ChatBedrock
WindyFlo AWS ChatBedrock Parameters

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

AWS Credential

AWS Bedrock์— ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ๋Š” Credential์— ๋“ฑ๋ก๋œ ์ž๊ฒฉ ์ •๋ณด

ํ•„์ˆ˜

Region

์‚ฌ์šฉํ•  AWS ๋ฆฌ์ „(e.g., us-east-1)

ํ•„์ˆ˜

Model Name

์‚ฌ์šฉํ•  Bedrock ๋ชจ๋ธ ์ด๋ฆ„(e.g., anthropic.claude-3-haiku)

ํ•„์ˆ˜

Custom Model Name

์‚ฌ์šฉ์ž ์ง€์ • ๋ชจ๋ธ ๋ช…์นญ(ํ‘œ์‹œ์šฉ)

์„ ํƒ

Allow Image Uploads

์ด๋ฏธ์ง€ ์—…๋กœ๋“œ ํ—ˆ์šฉ ์—ฌ๋ถ€

์„ ํƒ


ํŒŒ๋ผ๋ฏธํ„ฐ (Parameters)

ํ•ญ๋ชฉ
์„ค๋ช…

Streaming

์‘๋‹ต์„ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ฐฉ์‹์œผ๋กœ ๋ฐ›์„์ง€ ์—ฌ๋ถ€ (๊ธฐ๋ณธ๊ฐ’: ํ™œ์„ฑํ™”)

Temperature

์ถœ๋ ฅ ๋‹ค์–‘์„ฑ ์ œ์–ด ๊ฐ’. 0.0 ~ 1.0 ์‚ฌ์ด ๊ฐ’ ์„ค์ • ๊ฐ€๋Šฅ (๊ธฐ๋ณธ๊ฐ’: 0.7)

Max Tokens to Sample

์ถœ๋ ฅ ํ† ํฐ ์ˆ˜ ์ œํ•œ (๊ธฐ๋ณธ๊ฐ’: 200)


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

AWSChatBedrock

AWS Bedrock์„ ํ†ตํ•ด ์ƒ์„ฑ๋œ ์‘๋‹ต ๊ฒฐ๊ณผ ๊ฐ์ฒด


ํ™œ์šฉ ์˜ˆ์‹œ

  • ๊ณ ๊ฐ์„ผํ„ฐ ์ฑ—๋ด‡์— Claude ๋ชจ๋ธ์„ ์—ฐ๋™ํ•˜์—ฌ, ๊ณ ๊ฐ ๋ฌธ์˜์— ๋Œ€ํ•ด ์ž์—ฐ์Šค๋Ÿฝ๊ณ  ์‹ ๋ขฐ๋„ ๋†’์€ ์‘๋‹ต์„ ์ œ๊ณต

  • ์‚ฌ๋‚ด ์ž„์ง์›์šฉ Q&A ์„œ๋น„์Šค์— Claude 3๋ฅผ ์—ฐ๊ฒฐํ•ด, ์ •์ฑ… ๋ฌธ์„œ๋‚˜ ์ธ์‚ฌ ์ •๋ณด๋ฅผ ์ž์—ฐ์–ด๋กœ ์กฐํšŒ ๊ฐ€๋Šฅํ•˜๊ฒŒ ๊ตฌ์„ฑ

  • ์ „์ž์ƒ๊ฑฐ๋ž˜ ํ”Œ๋žซํผ์—์„œ ์‚ฌ์šฉ์ž์˜ ์งˆ๋ฌธ์— ๊ธฐ๋ฐ˜ํ•œ ์ƒํ’ˆ ์ถ”์ฒœ ์‘๋‹ต์„ ์‹ค์‹œ๊ฐ„์œผ๋กœ ์ƒ์„ฑ

  • ๊ต์œก ์ฝ˜ํ…์ธ  ํ”Œ๋žซํผ์—์„œ ํ•™์ƒ์˜ ์งˆ๋ฌธ์„ ์‹ค์‹œ๊ฐ„์œผ๋กœ ์ดํ•ดํ•˜๊ณ , ๊ด€๋ จ ๊ฐœ๋…์„ ์„ค๋ช…ํ•˜๋Š” ํ•™์Šต ๋„์šฐ๋ฏธ ๊ตฌํ˜„


์‚ฌ์šฉ ํŒ

  • Token ์ˆ˜ ์กฐ์ ˆ์„ ํ†ตํ•ด ๋น„์šฉ๊ณผ ์‘๋‹ต ์‹œ๊ฐ„ ์ตœ์ ํ™” ๊ฐ€๋Šฅ

  • Streaming์„ ํ™œ์„ฑํ™”ํ•˜๋ฉด ๋Œ€ํ™”ํ˜• UX์—์„œ ์‘๋‹ต ์ง€์—ฐ์„ ์ค„์ผ ์ˆ˜ ์žˆ์Œ

  • Region, Model Name์„ ์ •ํ™•ํžˆ ์ž…๋ ฅํ•˜์ง€ ์•Š์œผ๋ฉด ์˜ค๋ฅ˜ ๋ฐœ์ƒ ๊ฐ€๋Šฅ


์ฃผ์˜์‚ฌํ•ญ

  • AWS Bedrock ์‚ฌ์šฉ์„ ์œ„ํ•ด ์‚ฌ์ „ ์„œ๋น„์Šค ์‹ ์ฒญ ๋ฐ ๊ถŒํ•œ ์„ค์ • ํ•„์š”

  • ์ž…๋ ฅ๋œ ํ† ํฐ ์ˆ˜ ๋ฐ ์ถœ๋ ฅ ํ† ํฐ ์ˆ˜์— ๋”ฐ๋ผ ์š”๊ธˆ์ด ๋ฐœ์ƒ

  • ํ—ˆ์šฉ๋œ ๋ชจ๋ธ ์™ธ์˜ Model Name ์ž…๋ ฅ ์‹œ ์˜ค๋ฅ˜ ๋ฐœ์ƒ

  • AWS Credential์— ๋“ฑ๋ก๋œ ํ‚ค๊ฐ€ ์—†์„ ๊ฒฝ์šฐ ์‹คํ–‰ ๋ถˆ๊ฐ€

Last updated