Xem toàn bộ thuật ngữ

Kỹ thuật và kiến trúc

Phân loại tài liệu là gì: Bước đầu tiên tách tệp gộp thành từng đơn vị công việc, tổng quan đầy đủ

Korea Deep LearningĐăng

Phân loại tài liệu (Document Classification) là xử lý xác định biểu mẫu của tệp tiếp nhận. Khi nhiều tài liệu được gộp lại với nhau, xử lý này tách chúng thành từng tài liệu riêng, gán loại cho từng phần và chuyển sang luồng xử lý tiếp theo.

Vì sao cần phân loại tài liệu

Một tệp không phải là một tài liệu.

Khi đánh giá tự động hóa, phần lớn cuộc thảo luận bắt đầu từ độ chính xác nhận dạng. Nhưng khi mở thư mục tiếp nhận thực tế, có một vấn đề khác nằm ngay phía trước. Một tệp nhận qua fax có thể gồm đơn đăng ký, bản sao giấy tờ tùy thân, bản sao sổ ngân hàng và giấy xác nhận, được nối liền với nhau không theo thứ tự nào. Trước khi đọc giá trị, nhân viên phải mở tệp và nhìn xem đâu là hết đơn đăng ký, đâu là bắt đầu bản sao sổ ngân hàng. Kết quả đo tại một tổ chức tài chính cho thấy riêng công việc kiểm tra và phân tách này mất từ 2 đến 4 phút mỗi hồ sơ.

Dù mô hình nhận dạng chính xác đến đâu, nếu không có bước này thì tự động hóa cũng không thể bắt đầu. Khi chưa biết trang đó thuộc biểu mẫu nào thì cũng chưa xác định được cần trích xuất gì. Phân loại tài liệu không phải là tính năng phụ của tự động hóa mà là điểm vào.

Định nghĩa chính xác của phân loại tài liệu: khác gì với nhận dạng tài liệu

Ba trục khác biệt giữa nhận dạng và phân loại

Thứ nhất, đối tượng khác nhau. Nhận dạng nhắm đến chữ và bảng trong một trang. Phân loại nhắm đến ranh giới giữa các trang và ấn tượng tổng thể mà trang đó tạo ra. Các yếu tố không phải giá trị như logo, tiêu đề biểu mẫu, cách bố trí bảng và câu thông báo in sẵn lại có thể là căn cứ phán đoán.

Thứ hai, mục tiêu khác nhau. Mục tiêu của nhận dạng là chép chính xác những gì được viết. Mục tiêu của phân loại là quyết định tệp này được tách thành bao nhiêu tài liệu và gán loại nào cho từng tài liệu. Với cùng một trang, nhận dạng trả lời là trên đó viết gì, còn phân loại trả lời đó là loại giấy tờ gì.

Thứ ba, chỉ số đánh giá khác nhau. Nhận dạng được đo bằng độ chính xác ký tự hoặc độ chính xác mục. Phân loại được đo bằng việc phán đoán loại có đúng hay không. Trong kiểm chứng thực tế, có trường hợp tài chính cho thấy độ chính xác phân loại loại tài liệu được xác nhận là cao, và trường hợp khu vực công được xác nhận là thấp hơn. Điều này có nghĩa là giá trị thay đổi rất lớn tùy vào mức độ chi tiết của hệ thống loại và độ tương đồng giữa các biểu mẫu.

Hai xử lý này không thay thế nhau. Nếu kết quả phân loại sai, phần trích xuất phía sau sẽ bắt đầu với bảng mục sai, nên nhận dạng càng chính xác thì lỗi càng trông có vẻ hợp lý. Giữ đúng thứ tự sẽ an toàn hơn.

Năm điều kiện để đưa phân loại tài liệu vào vận hành

Năm điều kiện của phân loại tài liệu trong vận hành thực tế

Thứ nhất, phải tự tìm được ranh giới tài liệu. Trong môi trường nhiều tài liệu được gộp vào một PDF, phải tách tệp thành các mảnh trước khi có thể phán đoán loại. Phương pháp chỉ gán loại cho từng trang sẽ làm tài liệu nhiều trang bị tách thành những tờ rời, nên cần thêm khả năng phán đoán xem các trang liên tiếp có thuộc cùng một tài liệu hay không.

Thứ hai, hệ thống loại phải được thiết kế dựa trên tiêu chuẩn nghiệp vụ. Trong tự động hóa tại một tổ chức tài chính thẻ, nhóm dự án đã sắp xếp các nhóm tài liệu ban đầu, thiết lập hệ thống mã phân loại, rồi mới chuyển sang trích xuất. Nếu hệ thống mã quá thô, các biểu mẫu khác nhau sẽ bị gộp vào cùng một loại và các mục trích xuất bị lệch. Nếu quá chi tiết, việc phán đoán khó hơn và độ chính xác giảm.

Thứ ba, phải phân biệt được các biểu mẫu có hình thức giống nhau. Trong thực tế có nhiều cặp biểu mẫu gần như cùng bố cục, chỉ khác vài chữ trong tiêu đề, chẳng hạn đơn đăng ký khách hàng mới và đơn thay đổi thông tin. Nếu phán đoán chỉ dựa vào ấn tượng tổng thể, lỗi sẽ tập trung vào các cặp này. Vì vậy thiết kế cần kiểm tra cùng lúc các dấu hiệu quyết định như tiêu đề và số hiệu tài liệu.

Thứ tư, phải ứng phó được với biểu mẫu đã sửa đổi. Biểu mẫu của cơ quan công quyền và tài chính được sửa đổi định kỳ. Nếu mỗi lần có biểu mẫu mới lại phải huấn luyện lại mô hình thì gánh nặng vận hành sẽ tăng dần. Quản lý định nghĩa loại như dữ liệu và ghi lại lịch sử thay đổi thành các phiên bản sẽ giảm chi phí duy trì.

Thứ năm, phải tách riêng các trường hợp không phân loại được. Nếu ép mọi tệp vào một loại nào đó thì lỗi sẽ lặng lẽ chảy xuống các khâu sau. Hồ sơ có độ tin cậy thấp nên được để ở trạng thái chưa phân loại và chuyển cho nhân viên kiểm tra. Chỉ khi có luồng như vậy, độ tin cậy của toàn bộ tự động hóa mới được duy trì.

Cách áp dụng phân loại tài liệu trong thực tế

Thiết kế ngược từ kênh tiếp nhận

Thiết kế phân loại bắt đầu từ đường tiếp nhận chứ không phải từ mô hình. Tệp được gửi qua fax điện tử, được quét tại chi nhánh hay được tải lên dưới dạng ảnh chụp từ điện thoại, thì tình trạng của tệp sẽ hoàn toàn khác nhau.

Nhìn vào luồng vận hành thực tế, trình tự là: tiếp nhận fax điện tử, tách PDF gộp, phân loại tài liệu, trích xuất mục, hậu xử lý, kiểm chứng, đưa vào hệ thống quản lý tài liệu, kết nối công cụ tự động hóa và đăng ký vào hệ thống lõi. Phân loại là mắt xích thứ ba của chuỗi này, và hồ sơ bị phân loại sai ở đây sẽ mang lỗi đi qua mọi khâu sau. Vì vậy nên chuẩn bị môi trường vận hành để nhân viên có thể xem và sửa kết quả phân loại trên màn hình kiểm tra.

Tách riêng phân loại và trích xuất

Nếu gộp phân loại và trích xuất thành một xử lý, mỗi lần thêm một biểu mẫu sẽ phải chỉnh sửa lại toàn bộ. Khi tách hai khâu, hệ thống phân loại chỉ cần sửa định nghĩa loại, còn trích xuất chỉ cần sửa lược đồ mục theo từng loại.

Xét về mặt kỹ thuật, mô hình hiểu được thông tin hình ảnh và ngữ cảnh của toàn bộ tài liệu sẽ có lợi thế hơn. Phương pháp dựa trên quy tắc đọc tiêu đề ở một vị trí cố định sẽ thất bại ngay với tài liệu bị nghiêng hoặc bị cắt phần trên. Trong tài liệu tiếp nhận thực tế thậm chí có trường hợp vùng đen ở đầu bản quét do bị gấp đã che mất tiêu đề biểu mẫu.

Phân loại tài liệu trong bối cảnh Hàn Quốc

Trong nghiệp vụ tài chính và khu vực công trong nước, fax vẫn còn là một đường tiếp nhận. Các tài liệu được gửi lại nhiều lần thường có nhiều định dạng ngày tháng chồng lên nhau trên cùng một dòng, và độ phân giải thấp làm nét chữ của tiêu đề biểu mẫu bị nhòe. Trong điều kiện này, để phán đoán loại tài liệu cần tổng hợp dấu hiệu từ toàn bộ tài liệu thay vì chỉ một vùng tiêu đề.

Định dạng tài liệu cũng là một điều kiện. Tệp Hangul word processor, PDF quét và tệp ảnh cùng đến trong một nghiệp vụ, nên mỗi định dạng cần một bước tiền xử lý khác nhau. Cấu trúc bảng nhiều tầng và mục đánh số bằng ký tự khoanh tròn đặc trưng của biểu mẫu công vừa là dấu hiệu để phán đoán loại, vừa là trở ngại.

Quản lý hệ thống mã phân loại như một tài liệu

Hệ thống phân loại không nên được giấu trong mô hình. Cần quản lý nó như một tài liệu mà nhân viên có thể đọc và chỉnh sửa. Khi số loại tăng lên đến hàng trăm, việc biết mã nào ứng với biểu mẫu nào sẽ trở thành kiến thức nghiệp vụ.

Tài liệu quản lý nên ghi cho từng mã tên biểu mẫu, cơ quan ban hành, tệp mẫu tiêu biểu và danh sách mục cần trích xuất từ loại đó. Nếu có các biểu mẫu tương tự, cũng nên ghi rõ điều gì phân biệt chúng. Ví dụ, tiêu chí phân biệt đơn đăng ký khách hàng mới với đơn thay đổi thông tin bằng hai chữ trong tiêu đề biểu mẫu phải được ghi ở đây.

Khi có tài liệu này, hệ thống vẫn được duy trì ngay cả khi thay người phụ trách, và khi có biểu mẫu mới, nó cung cấp căn cứ để quyết định nên đưa vào loại hiện có hay tạo loại mới.

Đưa kết quả kiểm tra trở lại tiêu chuẩn phân loại

Phân loại không phải là xử lý làm một lần rồi thôi. Khi đã vận hành, sẽ liên tục có biểu mẫu không ngờ tới và nhân viên sẽ phải sửa các phán đoán.

Thu thập các bản ghi sửa đổi này sẽ là căn cứ để cải thiện. Nếu việc sửa lặp lại ở một loại nhất định, đó là tín hiệu cho thấy định nghĩa loại đó còn mơ hồ hoặc ranh giới của nó trùng với một biểu mẫu tương tự. Nếu tỷ lệ rơi vào trạng thái chưa phân loại tăng, nghĩa là biểu mẫu mới đang đổ vào.

Rà soát định kỳ các bản ghi sửa đổi, chỉnh định nghĩa loại và lưu lại thay đổi thành phiên bản sẽ ngăn độ chính xác phân loại giảm theo thời gian.

Tính toán đồng thời khối lượng và cấu hình song song

Phân loại nằm ở đầu của toàn bộ luồng, nên nếu khâu này bị nghẽn thì mọi khâu sau cũng nghẽn theo. Đây là lý do cần xem không chỉ khối lượng trung bình hàng tháng mà cả mức độ tập trung của hồ sơ trong giờ cao điểm.

Trong một trường hợp vận hành thực tế, nghiệp vụ thẩm định khoảng 15.000 hồ sơ mỗi tháng nhận trung bình sáu loại tài liệu mỗi hồ sơ và trung bình mười lăm trang mỗi hồ sơ. Số hồ sơ là 15.000 nhưng số trang vượt quá 200.000. Với khâu phân loại, định cỡ năng lực xử lý theo số trang sẽ chính xác hơn là theo số hồ sơ.

Cũng nên xem xét cấu hình cho phép đẩy các hồ sơ khẩn cấp đi trước. Trong nghiệp vụ mà thời gian quyết định kết quả, chẳng hạn tiếp nhận đơn hỗ trợ nạn nhân, nên có một luồng ưu tiên xử lý riêng.

Câu hỏi thường gặp

Nhiều giấy tờ gộp trong một PDF có được xử lý không?

Có. Trước khi phán đoán loại, một bước sẽ chạy để tìm ranh giới tài liệu và tách tệp thành các mảnh. Nếu không có chức năng này, phần trích xuất phía sau sẽ đi theo bảng mục sai.

Độ chính xác phân loại đạt bao nhiêu?

Tùy thuộc vào nhóm tài liệu. Có trường hợp kiểm chứng trên tài liệu tài chính cho kết quả cao, trong khi kiểm chứng trên tài liệu công lại thấp hơn. Lấy giá trị đo trên chính tài liệu của doanh nghiệp làm chuẩn sẽ chính xác hơn.

Khi có biểu mẫu mới thì làm thế nào?

Ứng phó bằng cách thêm định nghĩa loại. Thay vì huấn luyện lại tham số mô hình, hãy chỉnh hệ thống phân loại và lược đồ mục, rồi lưu lại dưới dạng phiên bản, như vậy gánh nặng vận hành sẽ giảm.

Các biểu mẫu có hình thức giống nhau có được phân biệt không?

Có. Tuy nhiên lỗi tập trung ở các cặp biểu mẫu có bố cục gần như giống nhau, nên thiết kế cần đưa các dấu hiệu quyết định như tiêu đề và số hiệu tài liệu vào căn cứ phán đoán.

Tài liệu không phân loại được thì sao?

Chúng được tách thành trạng thái chưa phân loại và trở thành đối tượng nhân viên kiểm tra. Không ép các hồ sơ có độ tin cậy thấp vào một loại là cách giảm lỗi tổng thể.

Một tệp có thể chứa tối đa bao nhiêu loại?

Không giới hạn. Trong vận hành thực tế đã xác nhận trường hợp một hồ sơ trung bình có sáu loại và mười lăm trang. Mức độ tương đồng giữa các biểu mẫu ảnh hưởng đến độ khó nhiều hơn số lượng loại.

Việc nhân viên sửa kết quả phân loại được dùng như thế nào?

Các lần sửa được thu thập và dùng làm căn cứ để chỉnh định nghĩa loại. Nếu việc sửa lặp lại ở một loại, đó được xem là dấu hiệu định nghĩa còn mơ hồ hoặc ranh giới đang chồng lên biểu mẫu khác.

Tài liệu fax độ phân giải thấp có được phân loại không?

Có. Vì phán đoán tổng hợp dấu hiệu từ toàn bộ tài liệu thay vì dựa vào một vị trí như tiêu đề biểu mẫu, nên vẫn có thể xử lý ngay cả khi phần trên bị hỏng.

Chỉ cần gửi cho chúng tôi một tệp tiếp nhận gộp nhiều giấy tờ, chúng tôi sẽ trả lại kết quả tách và phân loại đúng như vậy.

Liên hệ