제조 AI 보안의 핵심, 원문은 이해하되, 활용은 통제하라

한국딥러닝 김동현 미래AI개발팀장이 AI타임스에 '제조 AI 보안의 핵심: 원문은 이해하되, 활용은 통제하라'를 기고했다. 제조 문서를 AI가 읽는 순간 보안은 인프라 문제가 아니라 생산 경쟁력의 문제가 된다는 것이 글의 요지다.

제조 현장에서 질문은 성능에서 보안으로 바뀐다

기업 AI 도입 논의에서 먼저 나오는 질문은 대부분 성능이다. 문서를 얼마나 정확히 읽는지, 업무를 얼마나 빨리 처리하는지가 평가 기준이 된다. 그러나 제조 현장에 들어가면 질문이 달라진다고 필자는 짚었다. 이 문서를 AI가 읽어도 되는지, 읽은 결과는 어디에 저장되는지, 누가 볼 수 있는지, 협력사나 외부 시스템과 공유할 수 없는 문서는 무엇인지가 먼저 따져진다.

설계 도면, BOM, 작업표준서, 공정 조건표, 품질검사표, 불량 분석 리포트, 설비 점검일지, 협력사 납품 문서에는 제품 구조, 부품 구성, 공정 조건, 검사 기준, 설비 상태, 원가 흐름, 협력사 정보가 담겨 있다. AI가 이를 요약하고 누락 항목을 확인하는 것은 유용하지만, 그 정보가 권한 없는 협력사에 공유되거나 외부 모델로 전송되거나 다른 업무에 재사용되면 문서 처리 문제가 아니라 '제조 경쟁력 유출 리스크'가 된다.

민감성은 개인정보가 아니라 공정과 원가 흐름에 있다

필자는 제조 문서의 핵심 보안 문제가 개인정보 보호와는 결이 다르다고 설명했다. 보호해야 할 것은 개인 식별 정보만이 아니라 제품을 만드는 방식과 원가 구조라는 것이다. 어떤 부품이 어떤 공정에 쓰이는지, 어느 협력사가 핵심 부품을 공급하는지, 특정 설비에서 어떤 불량이 반복되는지가 쌓이면 제품 전략, 공정 안정성, 협력사 의존도, 원가 개선 방향까지 추정될 수 있다. 설비 점검 기록이 노출되면 생산 능력과 가동률이, BOM과 납품 정보가 결합되면 원가 구조와 핵심 부품 의존도가 드러날 수 있다.

원문 이해는 필요하지만 원문 활용은 통제돼야 한다

제조 문서는 표, 코드, 도면, 수치, 주석, 첨부 자료가 얽혀 있어 일부 텍스트만 잘라 내서는 정확히 해석하기 어렵다. 그래서 AI는 원문 구조와 항목 간 관계를 이해해야 한다. 다만 필자는 원문을 이해하는 것과 원문을 그대로 활용하는 것은 다르다고 강조했다. 불량 원인을 분류하려면 검사 항목, 측정값, 발생 공정, 발생 시간을 알아야 하지만, 그 과정에서 제품 전체 BOM, 협력사별 단가 조건, 핵심 공정 레시피, 설비 배치 정보가 모든 단계에 노출될 필요는 없다.

"제조 AI의 보안은 원문 접근을 무조건 막는 것이 아닙니다. 문서 인식 단계에서는 원문의 구조를 이해하되, 분석 단계와 공유 단계, 실행 단계에서는 업무 목적에 필요한 정보만 흐르도록 설계하는 것입니다."

읽는 권한과 실행하는 권한을 나눈다

AI가 품질검사표를 읽고 이상 항목을 표시하는 것과, 그 결과로 납품 반려를 확정하거나 생산 라인을 멈추는 것은 다른 수준의 권한이다. 설비 점검일지를 요약하는 일과 이를 협력사에 자동 공유하는 일도 마찬가지다. 필자는 가장 위험한 것이 AI가 문서를 읽는 것이 아니라 읽은 문서를 근거로 허용되지 않은 행동까지 이어지는 것이라고 지적했다.

필자는 한국딥러닝의 DEEP Agent(딥 에이전트)가 지향하는 문서 특화 업무 자동화도 이 지점과 맞닿아 있다고 설명했다. 표, 코드, 항목명, 도면, 수기 입력, 검사 수치가 섞인 제조 문서에서는 항목 간 관계를 이해하는 능력이 중요하며, 여기에 민감도 분류, 최소 정보 처리, 열람·실행 권한 분리가 결합될 때 기업이 신뢰할 수 있는 자동화 기반이 된다는 것이다.

"보안은 AI 도입 이후의 점검 항목이 아니라, 제조 자동화 설계의 출발점입니다."

— 김동현 한국딥러닝 미래AI개발팀장

전문은 AI타임스에 실렸다.