Unstructured File Loader
Unstructured File Loader ๋ ธ๋๋ PDF, ์ด๋ฏธ์ง, DOCX ๋ฑ ๋ค์ํ ๋น์ ํ ๋ฌธ์ ํ์ผ์ ์ ๋ก๋ํ๊ณ Unstructured API๋ฅผ ํตํด ๋ฌธ์ ํ ์คํธ๋ฅผ ์ถ์ถํ์ฌ ์ ํ ๋ฐ์ดํฐ๋ก ๋ณํํฉ๋๋ค. OCR, ํ์ด์ง ๋ถํ , ํ ์คํธ ์ฒญํน ๋ฑ ๋ค์ํ ์ ์ฒ๋ฆฌ ์ต์ ์ ์ ๊ณตํ์ฌ ๋ฌธ์ ๋ถ์ ํ์ดํ๋ผ์ธ์ ์ ์ฒ๋ฆฌ ๋จ๊ณ์ ์ ํฉํฉ๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ
PDF, ์ด๋ฏธ์ง, ์๋ ํ์ผ ๋ฑ ๋ค์ํ ๋น์ ํ ๋ฌธ์ ํ์ ์ฒ๋ฆฌ
Unstructured API์ ์ฐ๋ํ์ฌ ๋ฌธ์ ๋ด์ฉ ์ถ์ถ ๋ฐ ๊ตฌ์กฐํ
OCR ์ธ์ด ์ค์ , ์ฒญํน ์ ๋ต ๋ฑ ๋ค์ํ ๋ฌธ์ ์ฒ๋ฆฌ ํ๋ผ๋ฏธํฐ ์ ๊ณต
ํ์ผ ๋ด ๋ฉํ๋ฐ์ดํฐ ํํฐ๋ง ๋ฐ ์ถ๊ฐ ๋ฉํ๋ฐ์ดํฐ ์ฝ์ ๊ฐ๋ฅ
๊ฒฐ๊ณผ๋ฅผ ๋ฌธ์ ๊ฐ์ฒด ๋ฐฐ์ด(Document) ๋๋ ํ ์คํธ(Text)๋ก ์ถ๋ ฅ ๊ฐ๋ฅ



์
๋ ฅ๊ฐ (Inputs)
Connect Credential
Unstructured API ์ฌ์ฉ์ ์ํ ์ธ์ฆ ์ ๋ณด (Credential์ ๋ฑ๋ก)
ํ์
Files Upload
์ ๋ก๋ํ ๋ฌธ์ ํ์ผ ์ ํ
ํ์
Unstructured API URL
Unstructured ์๋ํฌ์ธํธ URL
ํ์
ํ๋ผ๋ฏธํฐ (Parameters)
Strategy
๋ฌธ์ ์ฒ๋ฆฌ ์ ๋ต ์ ํ (์: Auto, fast, hi_res ๋ฑ)
Encoding
ํ ์คํธ ์ธ์ฝ๋ฉ ๋ฐฉ์ (๊ธฐ๋ณธ๊ฐ: utf-8)
Skip Infer Table Types
ํ ์ถ๋ก ์ ๊ฑด๋๋ธ ํ์ผ ํ์ ์ง์ (๊ธฐ๋ณธ๊ฐ: jpg, pdf, png)
Hi-Res Model Name
๊ณ ํด์๋ ๋ชจ๋ธ ์ง์ ์ ์ฌ์ฉ (์ต์ )
Chunking Strategy
๋ฌธ์ ์ฒญํน ๊ธฐ์ค ์ค์ (์: By Title, By Element ๋ฑ)
OCR Languages
OCR ์ ์ฉ ์ ์ธ์ด ์ค์
Source ID Key
๋ฌธ์ ์์ค ์๋ณ์ ํค (๊ธฐ๋ณธ๊ฐ: source)
Coordinates
๊ฐ ์ฒญํฌ์ ์์น ์ ๋ณด ํฌํจ ์ฌ๋ถ (ON/OFF)
Include Page Breaks
ํ์ด์ง ๊ตฌ๋ถ์ ์ฝ์ ์ฌ๋ถ (ON/OFF)
XML Keep Tags
XML ํ๊ทธ ์ ์ง ์ฌ๋ถ (ON/OFF)
Multi-Page Sections
์ฌ๋ฌ ํ์ด์ง๋ฅผ ํ๋์ ์น์ ์ผ๋ก ๋ณํฉ ์ฌ๋ถ (ON/OFF)
Combine Under N Chars
์ง์ ํ ๊ธ์ ์ ๋ฏธ๋ง ์ฒญํฌ ๋ณํฉ
New After N Chars
์ง์ ํ ๊ธ์ ์ ์ด๊ณผ ์ ์ฒญํฌ ๋ถ๋ฆฌ
Max Characters
์ฒญํฌ ์ต๋ ๊ธ์ ์ (๊ธฐ๋ณธ๊ฐ: 500)
Additional Metadata
key-value ํ์์ผ๋ก ๋ฉํ๋ฐ์ดํฐ ์ถ๊ฐ
Omit Metadata Keys
์ ๊ฑฐํ ๋ฉํ๋ฐ์ดํฐ ํค ์ง์ (์ผํ๋ก ๊ตฌ๋ถ)
์ถ๋ ฅ๊ฐ (Outputs)
Document
๊ฐ ์ฒญํฌ๋ณ ๋ฉํ๋ฐ์ดํฐ ๋ฐ ๋ด์ฉ์ด ํฌํจ๋ ๋ฌธ์ ๊ฐ์ฒด ๋ฐฐ์ด
Text
๋ชจ๋ ์ฒญํฌ์ pageContent๋ฅผ ํ๋์ ๋ฌธ์์ด๋ก ์ฐ๊ฒฐํ ํ ์คํธ
ํ์ฉ ์์
OCR ๊ธฐ๋ฐ ๋ฌธ์(์ค์บ๋ณธ PDF, ์ด๋ฏธ์ง ๋ฑ)์์ ํ ์คํธ๋ฅผ ์ถ์ถํ๊ณ ๋ฒกํฐํํ๊ธฐ ์ ์ ์ฒ๋ฆฌ์ฉ์ผ๋ก ํ์ฉ
๋ค์ํ ๋ฌธ์ ํฌ๋งท์ ํตํฉํ์ฌ ์ง์์๋ต(RAG) ํ์ดํ๋ผ์ธ์ ์์ค๋ก ๊ตฌ์ฑ
๋ด๋ถ ๋ณด๊ณ ์, ๊ณ์ฝ์ ๋ฑ์ ์๋ ๋ถํ ๋ฐ ๋ฉํ๋ฐ์ดํฐ ํํฐ๋ง ํ LLM ์ ๋ ฅ์ผ๋ก ํ์ฉ
์ฒญํน ์ ๋ต์ ์กฐ์ ํ์ฌ ๊ธด ๋ฌธ์๋ฅผ ์์ฝํ๊ฑฐ๋, ํน์ ๊ธฐ์ค(Title, Element)์ผ๋ก ๋ฌธ์ ๋ถ๋ฆฌ ๊ฐ๋ฅ
์ฌ์ฉ ํ
Chunking Strategy๋ฅผ ์ํฉ์ ๋ฐ๋ผ ์กฐ์ ํ์ธ์. ๊ธด ๋ฌธ์๋
By Element, ๊ตฌ์กฐํ๋ ๋ฌธ์๋By Title์ด ํจ๊ณผ์ ์ ๋๋ค.Additional Metadataํญ๋ชฉ์ ํตํด ๋ฌธ์ ์ถ์ฒ, ์์ฑ์ ๋ฑ์ ์ ๋ณด๋ฅผ ์ถ๊ฐํ ์ ์์ต๋๋ค.OCR์ด ํ์ํ ๊ฒฝ์ฐ
OCR Languages์ค์ ์ ํตํด ์ ํ๋๋ฅผ ๋์ผ ์ ์์ต๋๋ค.๋ถํ์ํ ๋ฉํ๋ฐ์ดํฐ๋
Omit Metadata Keys์ ๋ช ์ํ์ฌ ์ ์ ๋ ์ถ๋ ฅ ํ๋ณด ๊ฐ๋ฅ
์ฃผ์์ฌํญ
Unstructured API URL์ ์ฌ๋ฐ๋ฅธ API ์๋ํฌ์ธํธ๋ฅผ ์ ๋ ฅํด์ผ ์ ์ ์๋ํฉ๋๋ค.OCR, ์ฒญํน ๋ฑ ๊ณ ๊ธ ๊ธฐ๋ฅ์ ์ฌ์ฉํ ์๋ก ์ฒ๋ฆฌ ์๋๊ฐ ๋๋ ค์ง ์ ์์ต๋๋ค.
์ ๋ ฅ ํ์ผ ์ฉ๋์ด ํฌ๊ฑฐ๋ OCR ์ค์ ์ด ํ์ฑํ๋ ๊ฒฝ์ฐ API ์ฌ์ฉ๋์ด ์ฆ๊ฐํ๋ฏ๋ก ์ฃผ์ํ์ธ์.
์ถ๋ ฅ ํ์ ์
Document๋ก ์ค์ ํ์ง ์์ผ๋ฉด ์ผ๋ถ ํ์ ๋ ธ๋์์ ์ฒ๋ฆฌ๋์ง ์์ ์ ์์ต๋๋ค.
Last updated