금융 에이전트 성패는 '지능'이 아니라 문서 해석력·책무 통제에 달려

한국딥러닝 김동현 미래AI개발팀장이 AI타임스에 '금융 에이전트 성패는 지능이 아니라 문서 해석력·책무 통제에 달려'를 기고했다.

지능의 역설과 운영의 벽

기고는 2025년을 생성 AI의 가능성을 실증(PoC)으로 탐색한 해로, 2026년을 규제와 운영의 벽에 부딪혀 생존 전략을 도출해야 하는 시기로 규정한다. 금융사들은 LLM 도입으로 상담 자동화에서 나아가 자산 관리와 여신 심사, 리스크 관리까지 AI가 맡는 시나리오를 기대했지만, 실제 업무 프로세스를 완전히 자동화한 사례는 드물다. 필자는 그 원인을 AI의 지능 부족이 아니라, 금융이 요구하는 '데이터의 무결성'과 '책임의 소재'를 범용 AI가 충족하지 못한 데서 찾는다.

"실제 실무 투입률은 여전히 10~20% 수준의 임계점에 머물러 있습니다."

— 김동현 한국딥러닝 미래AI개발팀장

RAG의 약점과 확정적 데이터

가장 큰 기술 장애물로는 문서 파싱의 한계를 꼽는다. PDF와 복잡한 약관, 수십 개 셀이 병합된 심사 서류를 얼마나 정확하게 데이터화하는지가 RAG 전체 성능을 결정하는 병목이 됐다는 것이다. RAG는 문서 사이의 맥락을 찾는 데는 유리하지만, 표 구조가 해체되거나 레이아웃이 잘못 인식되면 수치 하나의 오독이 큰 리스크로 이어진다. 금융 자동화에 필요한 것은 그럴듯한 검색 결과가 아니라 오차 없는 '확정적 데이터'라는 진단이다.

책무구조도와 '승인'의 거버넌스

필자는 책무구조도를 또 하나의 조건으로 든다. 책무구조도는 금융 사고가 났을 때 경영진에게 명확한 책임을 묻는 제도로, 판단 과정이 불투명한 '블랙박스 지능'은 이 체계에서 치명적 리스크가 된다. 금융위원회 역시 AI는 보조 수단이며 최종 책임은 임직원이 진다는 원칙을 강조하고 있다.

기고는 한국딥러닝의 DEEP Agent(딥 에이전트)가 문서의 시각적 구조와 업무 의도를 함께 인식해 결과를 도출함으로써, 사람을 반복 검토에서 벗어나 최종 승인에 집중하게 한다고 설명한다. 사람의 역할을 없애는 대신 승인자로 올려, 경영진이 결과에 안심하고 서명할 수 있는 자동화를 만든다는 것이다.

통제된 구조가 인프라가 된다

결론은 미래 금융 AI의 경쟁력이 텍스트 생성 능력이 아니라 불완전한 기록을 완전한 데이터 구조로 통제하는 능력에 있다는 것이다. 생성 모델의 확률적 변동성을 제어해 시스템이 받아들일 수 있는 하나의 값을 도출하는 '확정성'을 핵심 가치로 꼽고, 금융권이 모델의 지능보다 시스템 간 연결성과 데이터 해석력에 투자해야 한다고 제언한다.

"이제는 '어떤 리트리벌 기술을 쓰는지'라는 물음 대신, '어떤 확정적 구조를 가졌는지'라고 물어야 할 때입니다."

전문은 AI타임스에 실렸다.