생성 AI 한계가 드러난 지금, 기업은 '문서 AI'로 현실적인 자동화를 택한다

한국딥러닝 김지현 대표가 AI타임스에 '생성 AI 한계가 드러난 지금, 기업은 문서 AI로 현실적인 자동화를 택한다'를 기고했다.

생성 AI가 문서 앞에서 멈추는 이유

기고는 생성 AI 열풍 이후 기업들이 마주한 현실에서 출발한다. 많은 기업이 생성 AI로 문서 업무를 자동화하려 하지만, AI가 이미 작성된 문서의 문단 흐름이나 표 안의 관계를 정확히 읽지 못하는 문제가 드러나고 있다. 그럴듯한 답을 만들어 내는 범용 생성 AI는 환각과 비용, 검증 문제 때문에 핵심 업무에 바로 투입하기 어렵다.

김 대표는 그 원인을 대형언어모델의 작동 방식에서 찾는다. 확률에 기반한 모델은 정보가 불완전하거나 문서 구조가 무너져 있으면 빈칸을 추론으로 채우고, 이것이 환각으로 이어진다는 것이다.

"결국 문제의 핵심은 모델의 크기나 성능이 아니라 AI가 무엇을 읽고 있는가에 있습니다."

— 김지현 한국딥러닝 대표

필요한 것은 문서 구조화다

해법은 문서를 새로 쓰는 데 있지 않다. 김 대표는 실무자가 틀린 문서를 만드는 것이 아니라 AI가 문서를 사람처럼 읽지 못할 뿐이라고 지적한다. 기존 문서의 구조와 항목 간 관계를 복원하는 문서 구조화가 먼저라는 것이다. 문서를 제대로 읽지 못하면 자동화에 이르지 못하고, 사람이 AI의 결과를 다시 검증해야 하는 역설이 생긴다.

이 점에서 문서 AI는 입력과 출력이 명확하고 효과를 측정할 수 있어, 투자 대비 효과가 가장 분명한 자동화 영역이라는 것이 기고의 주장이다. 금융, 공공, 의료처럼 보안이 중요한 기관에는 문서를 외부로 내보내지 않는 온프레미스 구조화가 필수라는 점도 짚었다.

문서는 AI 판단의 기본 데이터

기고는 문서가 더는 보관용 파일이 아니라 AI 판단의 기본 데이터가 됐다고 결론짓는다. 기업 AI의 정확성은 문서를 읽는 능력에서 시작된다는 것이다.

"제대로 읽지 못하면 제대로 판단할 수 없습니다. AI의 오류는 곧 기업의 오류이기 때문입니다."

전문은 AI타임스에 실렸다.