파인튜닝이란 무엇인가: 우리 문서에 모델을 맞추는 학습 완전 정리

파인튜닝이란, 이미 대규모 데이터로 학습된 모델에 특정 문서군과 업무 규칙에 맞는 데이터를 추가로 학습시켜 그 영역에서의 성능을 끌어올리는 과정입니다.

범용 모델이 업무 문서에서 흔들리는 이유

문제는 평균이 아니라 예외에서 생깁니다.

범용 모델은 일반적인 문서에서 좋은 성능을 냅니다. 그런데 실제 업무 현장에서 사고가 나는 지점은 평균적인 문서가 아니라 예외적인 문서입니다. 도장이 표를 침범하고, 취소선이 행을 가로지르며, 팩스 헤더가 네 겹으로 쌓인 문서가 그렇습니다.

실측을 보면 이 차이가 분명히 드러납니다. 공공행정문서 90만 장에서 1천 장을 무작위로 뽑아 측정한 결과, 항목 이름을 찾는 정확도는 97.3%와 80.4%로 벌어졌고 그 이름에 붙은 값을 가져오는 정확도는 96.0%와 48.7%로 두 배 가까이 벌어졌습니다. 특정 문서군으로 학습한 모델과 그렇지 않은 모델의 격차입니다.

파인튜닝의 정확한 정의: 추출 기준 조정과 무엇이 다른가

기준 조정과 파인튜닝, 세 가지 축의 차이

첫째, 바꾸는 대상이 다릅니다. 추출 기준 조정은 모델에게 무엇을 찾으라고 지시하는 문장을 바꿉니다. 파인튜닝은 모델의 내부 값을 바꿉니다.

둘째, 필요한 것이 다릅니다. 기준 조정에는 업무 지식과 예시 몇 건이면 됩니다. 파인튜닝에는 정답이 붙은 학습 데이터가 상당량 필요하고 연산 자원과 시간이 들어갑니다.

셋째, 되돌리기가 다릅니다. 기준 조정은 문장을 되돌리면 끝입니다. 파인튜닝은 이전 모델 버전을 보관해 두어야 되돌릴 수 있습니다.

두 방법은 대체 관계가 아닙니다. 순서를 정하자면 기준 조정으로 먼저 해결을 시도하고, 그것으로 되지 않는 영역에 파인튜닝을 쓰는 편이 비용 대비 효과가 좋습니다.

파인튜닝을 결정하기 전에 볼 4가지

판단에 들어가는 4가지 기준

첫째, 기준 조정으로 해결되는지 먼저 확인합니다. 항목 정의를 다듬고 추출 힌트를 바꾸는 것만으로 상당수 문제가 풀립니다. 이 단계를 건너뛰면 불필요한 학습 비용이 발생합니다.

둘째, 학습 데이터를 만들 수 있는지 확인합니다. 정답이 붙은 문서가 충분히 있어야 하고, 그 정답을 만드는 작업에 상당한 시간이 듭니다.

셋째, 문서군이 안정적인지 확인합니다. 서식이 매달 바뀌는 영역이라면 학습이 끝날 때쯤 대상이 달라져 있습니다.

넷째, 개인정보 처리 방침을 확인합니다. 실제 업무 문서를 학습에 쓰려면 비식별화가 선행되어야 하고 학습 환경도 통제된 곳이어야 합니다.

파인튜닝의 실제 적용 방법

어려운 사례를 중심으로 데이터를 모읍니다

잘 처리되는 문서를 많이 넣는다고 성능이 오르지 않습니다. 실패한 사례와 예외로 빠진 건을 모으는 편이 훨씬 효과적입니다.

검수 이력이 여기서 자산이 됩니다. 담당자가 반복해서 고친 항목과 그 원본을 모으면 그것이 곧 학습 대상입니다.

평가셋을 먼저 고정합니다

학습 전에 평가용 문서를 따로 떼어 두어야 합니다. 학습에 쓴 문서로 성능을 재면 실제보다 좋게 나옵니다.

평가셋은 학습 데이터와 섞이지 않게 관리하고, 이후 모델을 갱신할 때마다 같은 평가셋으로 비교해야 개선 여부를 판단할 수 있습니다.

국내 환경에서의 파인튜닝

국내 금융과 공공에서는 학습 데이터가 조직 밖으로 나갈 수 없는 경우가 대부분입니다. 학습 환경을 내부에 두거나 비식별화된 데이터만 반출하는 방식이어야 합니다.

문서 조건도 있습니다. 한글 워드프로세서 문서와 관공서 서식, 팩스 접수본이 실제 대상이므로 이런 문서로 학습한 이력이 있는 모델이 출발점에서 유리합니다. 여기에 모델 갱신 시 검증과 승인 절차를 두어야 운영이 안정됩니다.

추가 학습 대신 기준을 조정하는 방법도 있습니다

서식이 고정된 기업 문서에서 추가 학습은 분명한 효과가 있습니다. 다만 새 문서가 들어올 때마다 학습을 반복하는 구조라면 운영 부담이 계속 쌓입니다. 부서가 늘어날 때마다 데이터를 모으고 라벨을 붙이고 검증하는 과정을 다시 거쳐야 하기 때문입니다.

그래서 실무에서는 두 방식을 나누어 씁니다. 문서군의 성격 자체가 다른 경우, 예를 들어 특정 산업의 전문 서식이나 다른 언어권 문서를 다루게 된 경우에는 추가 학습이 맞습니다. 반면 같은 성격의 문서에서 항목이 늘거나 서식이 개정된 경우라면 추출 기준과 스키마를 조정하는 편이 빠르고 되돌리기도 쉽습니다.

판단 기준은 변경의 성격입니다. 모델이 못 읽는 문제인지, 무엇을 읽어야 할지 지시가 부족한 문제인지 구분하면 어느 쪽을 선택할지가 정해집니다.

자주 묻는 질문