Unstructured Folder Loader
Unstructured Folder Loader ๋ ธ๋๋ ํด๋ ๋จ์๋ก ๋น์ ํ ๋ฌธ์ ํ์ผ์ ์ผ๊ด ์ฒ๋ฆฌํ์ฌ Unstructured API๋ฅผ ํตํด ๋ด์ฉ์ ์ถ์ถํ๊ณ ๊ตฌ์กฐํ๋ ํํ๋ก ๋ฐํํฉ๋๋ค. ๋ฌธ์ ๋๋ ์ ๋ก๋๊ฐ ํ์ํ ๊ฒฝ์ฐ์ ์ ํฉํ๋ฉฐ, OCR, ์ฒญํน ์ ๋ต ๋ฑ ๋ค์ํ ํ๋ผ๋ฏธํฐ ์ค์ ์ ํตํด ๋ฌธ์ ๋ถ์ ์ ์ฒ๋ฆฌ ์์ ์ ํจ์จํํ ์ ์์ต๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ
์ง์ ํ ํด๋ ๋ด ๋ชจ๋ ๋ฌธ์๋ฅผ ์ผ๊ด ์ ๋ก๋ํ์ฌ ์ฒ๋ฆฌ
Unstructured API์ ์ฐ๋๋ ์๋ ๋ฌธ์ ๋ถ์ ๋ฐ ์ถ์ถ ๊ธฐ๋ฅ ์ ๊ณต
OCR ์ธ์ด, ์ฒญํน ๊ธฐ์ค, ๊ณ ํด์๋ ๋ชจ๋ธ ์ค์ ๋ฑ ๋ค์ํ ์ต์ ์ ๊ณต
๊ฒฐ๊ณผ๋ฌผ์ JSON ๊ธฐ๋ฐ์ ๋ฌธ์ ๋ฐฐ์ด ํน์ ์ฐ๊ฒฐ๋ ํ ์คํธ๋ก ์ถ๋ ฅ
๋๋ ๋ฌธ์ ์ฒ๋ฆฌ์ ์ ํฉํ ์ ์ฐํ ํ๋ผ๋ฏธํฐ ๊ตฌ์ฑ ์ง์



์
๋ ฅ๊ฐ (Inputs)
Connect Credential
Unstructured API ์ฌ์ฉ์ ์ํ ์ธ์ฆ ์ ๋ณด (Credential์ ๋ฑ๋ก)
ํ์
Folder Path
์ฒ๋ฆฌํ ๋ฌธ์๋ค์ด ์์นํ ํด๋ ๊ฒฝ๋ก
ํ์
Unstructured API URL
Unstructured ์๋ํฌ์ธํธ URL
ํ์
ํ๋ผ๋ฏธํฐ (Parameters)
Strategy
๋ฌธ์ ์ฒ๋ฆฌ ์ ๋ต ์ ํ (์: Auto, fast, hi_res ๋ฑ)
Encoding
ํ ์คํธ ์ธ์ฝ๋ฉ ๋ฐฉ์ (๊ธฐ๋ณธ๊ฐ: utf-8)
Skip Infer Table Types
ํ ์ถ๋ก ์ ์ ์ธํ ํ์ผ ์ ํ ์ค์ (์: jpg, pdf, png)
Hi-Res Model Name
๊ณ ํด์๋ ๋ชจ๋ธ ์ด๋ฆ ์ง์ (์: detectron2_onnx)
Chunking Strategy
๋ฌธ์ ์ฒญํน ๊ธฐ์ค ์ค์ (์: By Title, By Element ๋ฑ)
OCR Languages
OCR ์ ์ฉ ์ ์ฌ์ฉ ์ธ์ด
Source ID Key
๋ฌธ์ ์๋ณ์ฉ ๋ฉํ๋ฐ์ดํฐ ํค (๊ธฐ๋ณธ๊ฐ: source)
Coordinates
๋ฌธ์ ์ฒญํฌ ์์น ์ ๋ณด ํฌํจ ์ฌ๋ถ (ON/OFF)
Include Page Breaks
ํ์ด์ง ๊ตฌ๋ถ ์ฝ์ ์ฌ๋ถ (ON/OFF)
XML Keep Tags
XML ํ๊ทธ ์ ์ง ์ฌ๋ถ (ON/OFF)
Multi-Page Sections
์ฌ๋ฌ ํ์ด์ง ๋ณํฉ ์ฌ๋ถ (ON/OFF)
Combine Under N Chars
์ง์ ๊ธ์ ์ ๋ฏธ๋ง์ ์ฒญํฌ ๋ณํฉ ๊ธฐ์ค
New After N Chars
์ง์ ๊ธ์ ์ ์ด๊ณผ ์ ์ฒญํฌ ๋ถ๋ฆฌ ๊ธฐ์ค
Max Characters
์ฒญํฌ ์ต๋ ๊ธ์ ์ (๊ธฐ๋ณธ๊ฐ: 500)
Additional Metadata
key-value ํ์์ ์ถ๊ฐ ๋ฉํ๋ฐ์ดํฐ ์ฝ์
Omit Metadata Keys
์ ๊ฑฐํ ๋ฉํ๋ฐ์ดํฐ ํค ๋ชฉ๋ก ์ค์ (์ผํ ๊ตฌ๋ถ)
์ถ๋ ฅ๊ฐ (Outputs)
Document
๊ฐ ๋ฌธ์ ๋ฐ ์ฒญํฌ์ ๋ฉํ๋ฐ์ดํฐ์ ๋ด์ฉ์ ํฌํจํ ๊ฐ์ฒด ๋ฐฐ์ด
Text
๋ชจ๋ ๋ฌธ์์ pageContent๋ฅผ ํ๋์ ๋ฌธ์์ด๋ก ์ฐ๊ฒฐํ ํ ์คํธ
ํ์ฉ ์์
์ฌ๋ด ๋ฌธ์ ์ ์ฅ์ ํด๋ ์ ์ฒด๋ฅผ AI ๊ฒ์ ์์คํ ํ์ต ๋ฐ์ดํฐ๋ก ๊ตฌ์ฑํ ๋
๊ณ์ฝ์, ๋ณด๊ณ ์ ๋ฑ ๊ตฌ์กฐ๊ฐ ์ ์ฌํ ๋ฌธ์๋ฅผ ํด๋ ๋จ์๋ก ์ฒญํนํ์ฌ ์์ฝยท์ง์์๋ต ํ์ดํ๋ผ์ธ์ ํ์ฉ
OCR ๊ธฐ๋ฅ์ ํ์ฉํด ์ค์บ๋ ์ด๋ฏธ์ง ๊ธฐ๋ฐ ๋ฌธ์๋ฅผ ๋ถ์ํ๊ณ ์ ํํ๋ ๋ฌธ์๋ก ๋ณํ
๋ฌธ์๋ณ ์ถ๊ฐ ๋ฉํ๋ฐ์ดํฐ๋ฅผ ์ฝ์ ํด ๊ฒ์ ๊ฐ๋ฅ์ฑ๊ณผ ํํฐ๋ง ๊ธฐ๋ฅ์ ๊ฐํ
์ฌ์ฉ ํ
ํด๋ ๊ฒฝ๋ก์ ์ ํจํ ํ์ผ๋ง ํฌํจ๋๋๋ก ์ฌ์ ์ ๋ฆฌํ๋ ๊ฒ์ด ๊ถ์ฅ๋ฉ๋๋ค.
Hi-Res Model Name์ ์ด๋ฏธ์ง ์ฒ๋ฆฌ ์ ๋ฐ๋๋ฅผ ๋์ด๊ธฐ ์ํ ์ต์ ์ผ๋ก, OCR ๊ธฐ๋ฐ ๋ฌธ์์ ์ ์ฉํฉ๋๋ค.๋ค๊ตญ์ด ๋ฌธ์์ ๊ฒฝ์ฐ
OCR Languages๋ฅผ ๋ณต์๋ก ์ค์ ํ๋ฉด ์ธ์๋ฅ ์ด ํฅ์๋ฉ๋๋ค.Omit Metadata Keys๋ก ๋ถํ์ํ ์์คํ ๋ฉํ๋ฐ์ดํฐ๋ฅผ ์ ๊ฑฐํ์ฌ ์ถ๋ ฅ ๋ฌธ์์ ๊ฐ๊ฒฐ์ฑ์ ํ๋ณดํ ์ ์์ต๋๋ค.
์ฃผ์์ฌํญ
Folder Path์ ํฌํจ๋ ๋ชจ๋ ํ์ผ์ด ์ผ๊ด ์ฒ๋ฆฌ๋๋ฏ๋ก, ๋ถํ์ํ ํ์ผ์ ์ฌ์ ์ ์ ์ธํด์ผ ํฉ๋๋ค.OCR ํ์ฑํ ์ ์ฒ๋ฆฌ ์๊ฐ์ด ๊ธธ์ด์ง๊ณ API ์ฌ์ฉ๋์ด ์ฆ๊ฐํ ์ ์์ต๋๋ค.
Unstructured API URL์ด ์ ํํ์ง ์๊ฑฐ๋ Credential์ด ๋๋ฝ๋ ๊ฒฝ์ฐ ๋ก๋ฉ ์คํจ๊ฐ ๋ฐ์ํฉ๋๋ค.
์ถ๋ ฅ ํ์ ์
Document๋ก ์ค์ ํ์ง ์์ผ๋ฉด ํ์ ๋ฌธ์ ์ฒ๋ฆฌ ๋ ธ๋์ ์ฐ๊ฒฐ์ด ์ด๋ ค์ธ ์ ์์ต๋๋ค.
Last updated