Human-in-the-Loop이란 무엇인가: 사람이 볼 건을 좁히는 설계 완전 정리

Human-in-the-Loop이란, AI가 처리한 결과 가운데 확신이 낮거나 규칙에 걸린 항목만 사람이 확인하도록 설계해 전수 검수와 무검수 사이에서 운영 위험을 관리하는 방식입니다.

검수 설계가 자동화의 성패를 가르는 이유

전부 보거나 아예 안 보거나 둘 중 하나였습니다.

문서 자동화를 도입할 때 검수를 어떻게 할지는 나중에 정하는 경우가 많습니다. 그 결과 두 가지 상태 중 하나로 굳습니다. 불안해서 전부 확인하거나, 믿고 아무것도 확인하지 않거나입니다.

전자는 자동화의 효과를 지웁니다. 후자는 오류가 업무 사고로 이어질 때까지 드러나지 않습니다. 실제로 필요한 것은 그 사이입니다. 어떤 건은 안전하고 어떤 건은 위험한지 구분해 위험한 것만 사람에게 보내는 설계입니다. 검수를 나중에 붙일 기능이 아니라 처음부터 설계할 구조로 다루어야 하는 이유입니다.

Human-in-the-Loop의 정확한 정의: 전수 검수와 무엇이 다른가

전수 검수와 선별 검수, 세 가지 축의 차이

첫째, 대상이 다릅니다. 전수 검수는 모든 건을 봅니다. 선별 검수는 기준선 아래의 항목이 포함된 건만 봅니다. 건이 아니라 항목 단위로 골라내는 것이 핵심입니다.

둘째, 목표가 다릅니다. 전수 검수의 목표는 오류를 놓치지 않는 것입니다. 선별 검수의 목표는 오류를 놓치지 않으면서 확인 대상을 좁히는 것입니다. 두 번째 조건이 붙는 순간 설계가 필요해집니다.

셋째, 성과지표가 다릅니다. 전수 검수는 발견한 오류 건수를 봅니다. 선별 검수는 검수로 넘어간 비율과 그중 실제로 수정된 비율을 함께 봅니다. 넘긴 건의 대부분이 수정 없이 통과된다면 기준선이 지나치게 높다는 뜻입니다.

두 방식은 대체 관계가 아닙니다. 도입 초기에는 전수 검수로 시작해 데이터를 모으고, 그 데이터를 근거로 선별 검수로 넘어가는 경로가 안전합니다.

검수 설계에 필요한 5가지 요소

실제 운영에 들어가는 5가지 요소

첫째, 항목 단위 신뢰도입니다. 문서 전체에 하나의 점수만 있으면 어느 값을 봐야 할지 알 수 없습니다.

둘째, 원문 위치 표시입니다. 값을 선택하면 원본의 해당 부분이 보여야 검수자가 문서를 처음부터 읽지 않습니다.

셋째, 검증 규칙 결과입니다. 왜 이 건이 검수로 넘어왔는지가 화면에 표시되어야 합니다. 신뢰도가 낮아서인지 합계가 맞지 않아서인지에 따라 확인할 곳이 다릅니다.

넷째, 수정 이력입니다. 누가 무엇을 어떻게 고쳤는지가 남아야 감사에 대응하고 기준선 조정의 근거로도 쓸 수 있습니다.

다섯째, 되돌아가는 경로입니다. 수정된 값이 다시 흐름을 타고 시스템에 등록되어야 합니다. 이 경로가 없으면 검수자가 결과를 따로 입력하게 됩니다.

Human-in-the-Loop의 실제 적용 방법

기준선을 데이터로 정합니다

기준선을 처음부터 정확히 잡을 방법은 없습니다. 초기에는 보수적으로 설정하고 실제 검수 결과를 모아 조정합니다.

수정이 거의 발생하지 않는 항목은 기준선을 낮춰 자동 처리로 넘기고, 수정이 잦은 항목은 기준선을 올리거나 검증 규칙을 추가합니다. 이 조정을 반복하면 검수 대상이 점차 좁아집니다.

검수자의 동선을 짧게 만듭니다

검수 화면의 설계가 실제 처리 시간을 크게 좌우합니다. 문제가 된 항목만 강조하고 원본의 해당 위치를 함께 보여 주면 건당 확인 시간이 짧아집니다.

문서 유형별 추출 항목과 스키마를 관리하는 화면을 함께 두면, 반복해서 수정되는 항목을 발견했을 때 검수자가 직접 기준을 손볼 수도 있습니다.

국내 환경에서의 Human-in-the-Loop

국내 금융과 공공에서는 검수 이력이 감사 대상입니다. 자동 처리된 건과 사람이 수정한 건이 구분되어 기록되어야 하고, 수정 전후의 값이 함께 남아야 합니다.

권한 분리도 요건입니다. 검수 권한과 승인 권한을 나누어야 하는 업무가 있고, 개인정보가 포함된 문서는 열람 범위가 제한되는 경우가 많습니다. 검수 환경과 운영 환경을 분리해 두면 이런 요건을 맞추기 수월합니다.

검수 화면이 절감 효과를 좌우합니다

확신이 낮은 건만 사람이 본다는 설계는 검수 화면이 뒷받침되어야 성립합니다. 예외로 분리했는데 담당자가 결국 문서를 처음부터 다시 읽는다면 절감 효과가 크지 않기 때문입니다.

화면에 있어야 할 것은 세 가지입니다. 먼저 왜 예외가 되었는지가 표시되어야 합니다. 신뢰도가 낮았는지 문서 간 대조에서 어긋났는지에 따라 확인할 지점이 달라집니다. 다음으로 값과 원본이 연결되어야 합니다. 항목을 선택하면 원문의 해당 위치가 표시되어야 눈으로 확인하는 시간이 줄어듭니다. 마지막으로 수정한 내역이 남아야 합니다.

수정 내역이 쌓이면 개선의 근거가 됩니다. 같은 서식의 같은 항목이 반복해서 수정된다면 추출 기준이나 검증 규칙을 손볼 시점이라는 뜻입니다.

자주 묻는 질문