AI 행정혁신, 변화에 대응하려면 'VLM옵스'가 필요하다

한국딥러닝 김동현 미래AI개발팀장이 AI타임스에 'AI 행정혁신, 변화에 대응하려면 VLM옵스가 필요하다'를 기고했다.

문서 AI의 병목이 옮겨 갔다

기고는 정부의 AI 행정혁신이 새 단계에 들어섰다는 진단에서 출발한다. 한성숙 국무총리가 AI 활용 확대를 넘어 정부의 일하는 방식 변화를 강조했고, 'AI 정부 실험실' 같은 시도도 이어지고 있다. 필자는 이 흐름에서 중요한 것은 AI를 얼마나 많이 구축했느냐가 아니라 업무 변화에 맞춰 AI를 얼마나 빠르게 바꾸고 검증할 수 있느냐라고 본다.

행정 신청서의 금액이나 자격 정보를 잘못 읽는 문서 AI, 금융 심사 서류의 핵심 항목을 놓치는 문서 AI는 실무에 쓸 수 없다. 그래서 정확도는 여전히 중요하지만, 이제는 출발선이라는 것이 필자의 주장이다.

"일정 수준 이상의 정확도는 이제 기업용·공공용 문서 AI가 갖춰야 할 기본 조건입니다."

문제는 구축 이후에 생긴다. 법령과 지침이 개정돼 새 자격 요건을 확인해야 하거나 서식과 확인 항목이 달라지면 사람은 곧바로 적응한다. 반면 구축형 문서 AI는 개발사에 변경을 요청하고, 설정을 고치고, 테스트와 재배포를 거쳐야 한다. 그 사이 AI는 이전 기준으로 일하는 시간차가 생긴다. 금융·보험의 신상품 출시나 심사·청구 기준 변경에서도 같은 문제가 반복된다.

VLM옵스란 무엇인가

필자는 이 구축 이후의 문제를 다루는 체계로 'VLM옵스(VLMOps)'를 제시한다. VLM옵스는 VLM 서버 상태를 감시하는 모니터링이 아니다. 문서 AI의 추출 기준을 변경하고, 검증하고, 버전으로 관리하고, 운영에 반영하는 과정을 하나로 다루는 기술 체계다. 관리 대상도 모델에 그치지 않고 프롬프트, 추출 스키마, 업무별 조건과 예외 기준, 평가 데이터까지 포함한다.

"VLM옵스는 변경→평가→검증→배포→버전 관리를 반복 가능한 하나의 운영 사이클로 만드는 기술입니다."

기고는 이 사이클의 세 가지 원칙을 짚는다. 첫째, 현업 담당자가 필요한 추출 항목과 조건을 자연어로 정의해 개발자가 이를 다시 기술 로직으로 옮기는 과정을 줄인다. 둘째, 바꾼 설정은 곧바로 운영에 넣지 않는다. 현재 운영 버전과 변경 버전에 같은 평가 문서를 넣어 필드별 결과와 정확도, 처리 시간을 비교하고 검증된 버전만 반영한다. 새 항목을 개선하다 기존 필드에 부작용이 생길 수 있기 때문이다. 셋째, 모델과 프롬프트, 스키마, 평가 결과를 하나의 운영 버전으로 묶어 변경 이력을 추적하고 이전 검증 상태로 되돌릴 수 있어야 한다. 공공·금융처럼 책임성과 감사가 중요한 환경에서는 특정 결과가 어떤 모델과 업무 기준에서 나왔는지 확인할 수 있어야 한다는 것이다.

현장의 병목에서 나온 DEEP Ops

필자는 한국딥러닝이 이 체계를 DEEP Ops로 구현했다고 소개한다. 개발 배경은 고객 현장의 운영 병목이었다. 금융기관 심사 업무에 새 확인 항목이 생길 때마다 요구사항 전달부터 재배포까지 긴 과정을 거쳐야 했다. DEEP Ops는 자연어 변경, 신구 버전 비교, 검증 후 반영, 버전별 차이 확인 기능을 갖췄다. 고객사 내부 폐쇄망에 구축해 기관별 보안 정책에 맞춰 설정할 수 있고, 검증된 프롬프트와 스키마, 평가 기준을 자산으로 쌓아 다른 부서로 넓힐 수 있다.

기고는 AI 행정혁신이 도입량이 아니라 바뀐 기준을 반영하고 결과를 검증하며 안정적으로 업무를 수행하는 능력으로 완성된다고 결론짓는다. 문서를 정확히 읽는 능력이 기본이라면, 다음 경쟁력은 업무 변화와 함께 바뀌고 검증하며 계속 일하는 능력이라는 것이다.

전문은 AI타임스에 실렸다.