S3 Directory

S3 Directory ๋…ธ๋“œ๋Š” Amazon S3 ๋ฒ„ํ‚ท์˜ ํŠน์ • ๊ฒฝ๋กœ(๋””๋ ‰ํ† ๋ฆฌ) ๋‚ด ํŒŒ์ผ๋“ค์„ ๋ถˆ๋Ÿฌ์™€ ๋ฌธ์„œ ๊ฐ์ฒด(Document)๋กœ ์ผ๊ด„ ๋ณ€ํ™˜ํ•ฉ๋‹ˆ๋‹ค. ๋‹ค์ˆ˜์˜ ๋ฌธ์„œ ํŒŒ์ผ์„ ์ •๊ธฐ์ ์œผ๋กœ ๋ถˆ๋Ÿฌ์™€ ์ž๋™ ์ฒ˜๋ฆฌํ•˜๊ฑฐ๋‚˜ ๋ถ„์„ ํŒŒ์ดํ”„๋ผ์ธ์— ํˆฌ์ž…ํ•˜๋Š” ๋ฐ ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค.


์ฃผ์š” ๊ธฐ๋Šฅ

  • ์ง€์ •ํ•œ S3 ๋ฒ„ํ‚ท ๊ฒฝ๋กœ ๋‚ด์˜ ๋ชจ๋“  ํŒŒ์ผ์„ ์ž๋™ ์ˆ˜์ง‘ ๋ฐ ๋กœ๋”ฉ

  • PDF ํŒŒ์ผ์— ๋Œ€ํ•ด ํŽ˜์ด์ง€ ๋‹จ์œ„ ๋˜๋Š” ํŒŒ์ผ ๋‹จ์œ„ ๋ถ„ํ•  ์ฒ˜๋ฆฌ ๊ฐ€๋Šฅ

  • Text Splitter ์—ฐ๊ณ„๋ฅผ ํ†ตํ•ด ๊ธด ํ…์ŠคํŠธ ์ž๋™ ๋ถ„ํ•  ๊ฐ€๋Šฅ

  • ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ ์‚ฝ์ž… ๋ฐ ๋ถˆํ•„์š”ํ•œ ํ•„๋“œ ์ œ๊ฑฐ ๊ธฐ๋Šฅ ์ œ๊ณต

WindyFlo S3 Directory
WindyFlo S3 Directory Parameters

์ž…๋ ฅ๊ฐ’ (Inputs)

ํ•ญ๋ชฉ
์„ค๋ช…
ํ•„์ˆ˜ ์—ฌ๋ถ€

Credential

S3 ์ ‘๊ทผ ๊ถŒํ•œ์šฉ ์ธ์ฆ ์ •๋ณด (Credential์— ๋“ฑ๋ก)

ํ•„์ˆ˜

Bucket

๋Œ€์ƒ S3 ๋ฒ„ํ‚ท ์ด๋ฆ„

ํ•„์ˆ˜

Region

๋ฒ„ํ‚ท์ด ์†ํ•œ AWS ๋ฆฌ์ „ (์˜ˆ: us-east-1)

ํ•„์ˆ˜

Server URL

S3 ํ˜ธํ™˜ ์Šคํ† ๋ฆฌ์ง€ ์‚ฌ์šฉ ์‹œ ์ปค์Šคํ…€ ์„œ๋ฒ„ ์ฃผ์†Œ

์„ ํƒ

Prefix

๋ถˆ๋Ÿฌ์˜ฌ ํŒŒ์ผ์ด ์œ„์น˜ํ•œ S3 ๋””๋ ‰ํ† ๋ฆฌ ๊ฒฝ๋กœ (์˜ˆ: myfolder/data/)

์„ ํƒ

Text Splitter

๋ถˆ๋Ÿฌ์˜จ ํ…์ŠคํŠธ๋ฅผ ๋ถ„ํ• ํ•˜๋Š” ๋ฐ ์‚ฌ์šฉํ•  Text Splitter ๋…ธ๋“œ

์„ ํƒ


ํŒŒ๋ผ๋ฏธํ„ฐ (Parameters)

ํ•ญ๋ชฉ
์„ค๋ช…

Pdf Usage

PDF ํŒŒ์ผ ์ฒ˜๋ฆฌ ๋ฐฉ์‹: ํŽ˜์ด์ง€๋ณ„ ๋˜๋Š” ํŒŒ์ผ๋ณ„ ๋ฌธ์„œ๋กœ ์ฒ˜๋ฆฌ

Additional Metadata

๋ฌธ์„œ์— ์‚ฝ์ž…ํ•  ์ถ”๊ฐ€ ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ (์˜ˆ: { "source": "s3" })

Omit Metadata Keys

์ œ๊ฑฐํ•  ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ ํ‚ค ๋ชฉ๋ก (์‰ผํ‘œ ๊ตฌ๋ถ„ ์ž…๋ ฅ)


์ถœ๋ ฅ๊ฐ’ (Outputs)

์ถœ๋ ฅ ํ•ญ๋ชฉ
์„ค๋ช…

Document

ํŒŒ์ผ๋ณ„ ๋˜๋Š” ํŽ˜์ด์ง€๋ณ„๋กœ ์ƒ์„ฑ๋œ ๋ฌธ์„œ ๊ฐ์ฒด ๋ฆฌ์ŠคํŠธ

Text

๋ชจ๋“  pageContent๋ฅผ ๋ณ‘ํ•ฉํ•œ ๋‹จ์ผ ํ…์ŠคํŠธ ๋ฌธ์ž์—ด


ํ™œ์šฉ ์˜ˆ์‹œ

  • ์‚ฌ๋‚ด ์ €์žฅ์†Œ(S3)์— ์—…๋กœ๋“œ๋œ ๋ณด๊ณ ์„œ, ๋งค๋‰ด์–ผ ๋“ฑ์„ ์ž๋™ ์ˆ˜์ง‘ํ•ด ์š”์•ฝ ์ฒ˜๋ฆฌ

  • ๊ณ ๊ฐ์‚ฌ๊ฐ€ ์—…๋กœ๋“œํ•œ ํŒŒ์ผ์„ ์‹ค์‹œ๊ฐ„ ๋ฌธ์„œ ๋ถ„์„ ๋˜๋Š” ๋ฒกํ„ฐํ™” ํŒŒ์ดํ”„๋ผ์ธ์œผ๋กœ ์—ฐ๊ฒฐ

  • ๋ฐฑ์˜คํ”ผ์Šค PDF ํŒŒ์ผ์„ ์ˆ˜์ง‘ํ•ด ๊ฒ€์ƒ‰ ๊ฐ€๋Šฅํ•œ ์ง€์‹๋ฒ ์ด์Šค ๊ตฌ์ถ•


์‚ฌ์šฉ ํŒ

  • ๋‹ค๋Ÿ‰์˜ PDF๋ฅผ ์ฒ˜๋ฆฌํ•  ๊ฒฝ์šฐ Pdf Usage๋ฅผ โ€œOne document per pageโ€๋กœ ์„ค์ •ํ•˜๋ฉด ์„ฑ๋Šฅ์ด ๊ฐœ์„ ๋จ

  • Prefix๋ฅผ ์ง€์ •ํ•˜๋ฉด ์›ํ•˜๋Š” ํ•˜์œ„ ํด๋”๋งŒ ๋ถˆ๋Ÿฌ์˜ฌ ์ˆ˜ ์žˆ์–ด ํšจ์œจ์ ์ธ ํ•„ํ„ฐ๋ง ๊ฐ€๋Šฅ

  • S3 ์™ธ ์Šคํ† ๋ฆฌ์ง€ ์‚ฌ์šฉ ์‹œ Server URL ํ•ญ๋ชฉ์„ ํ†ตํ•ด ํ˜ธํ™˜ API ์„ค์ • ๊ฐ€๋Šฅ


์ฃผ์˜์‚ฌํ•ญ

  • Credential ๋“ฑ๋ก ๋ˆ„๋ฝ ์‹œ S3 ๋ฒ„ํ‚ท ์ ‘๊ทผ์ด ๋ถˆ๊ฐ€๋Šฅํ•จ

  • PDF ์ด์™ธ์˜ ํŒŒ์ผ ํ˜•์‹์€ ์ž๋™ ์ฒ˜๋ฆฌ๋˜์ง€ ์•Š์œผ๋ฉฐ, ์ง€์› ํ™•์žฅ์€ ํ™˜๊ฒฝ ์„ค์ •์— ๋”ฐ๋ผ ๋‹ค๋ฅผ ์ˆ˜ ์žˆ์Œ

  • ๋ฆฌ์ „์— ๋งž์ง€ ์•Š๋Š” ์„ค์ • ๋˜๋Š” ์ž˜๋ชป๋œ ๋ฒ„ํ‚ท๋ช… ์ž…๋ ฅ ์‹œ ๋กœ๋”ฉ ์‹คํŒจ ๋ฐœ์ƒ ๊ฐ€๋Šฅ

Last updated