AI tác động lớn (High-Impact AI) là gì: AI ảnh hưởng đến an toàn con người và quyền cơ bản, hướng dẫn đầy đủ

AI tác động lớn (High-Impact AI) là khái niệm theo Luật AI cơ bản, chỉ loại AI có thể ảnh hưởng nghiêm trọng đến sinh mạng, thân thể và quyền cơ bản của con người, hoặc có nguy cơ gây rủi ro. Nhà cung cấp loại AI này phải chịu các nghĩa vụ như quản lý rủi ro, giải thích và giám sát của con người.

Vì sao cần biết về AI tác động lớn

AI đã bắt đầu được dùng cho các quyết định về con người.

Khi AI chỉ dừng ở việc tóm tắt tài liệu hay hỗ trợ tìm kiếm, nếu kết quả sai thì con người vẫn có nhiều cơ hội để sửa. Giờ đây, AI còn được dùng trong các phán đoán ảnh hưởng trực tiếp đến quyền lợi và cơ hội của một người, như tuyển dụng, chấm điểm tín dụng và thẩm định khoản vay. Nếu những phán đoán này sai, thiệt hại có thể khó đảo ngược.

Tại Hàn Quốc, luật thường được gọi là Luật AI cơ bản, tên chính thức là Luật Cơ bản về phát triển trí tuệ nhân tạo và xây dựng nền tảng tin cậy, đã có hiệu lực từ ngày 22 tháng 1 năm 2026 cùng với nghị định thi hành. Luật phân loại AI có thể ảnh hưởng nghiêm trọng đến an toàn và quyền cơ bản của con người là AI tác động lớn, quy định mười lĩnh vực bao gồm tuyển dụng và thẩm định khoản vay, và áp đặt các nghĩa vụ riêng cho nhà cung cấp loại AI này.

Doanh nghiệp không tự phát triển mô hình mà dùng AI bên ngoài cũng không được miễn trừ. Các tổ chức muốn ứng dụng AI vào công việc nên trước tiên kiểm tra xem dịch vụ của mình có thuộc loại AI tác động lớn hay không, và nếu có thì cần chuẩn bị những gì.

Định nghĩa chính xác của AI tác động lớn: khác gì với dịch vụ AI thông thường

Ba điểm khác nhau giữa dịch vụ AI thông thường và AI tác động lớn

Thứ nhất, tiêu chí phân loại khác nhau. AI tác động lớn được đánh giá theo việc AI được dùng ở đâu và ảnh hưởng gì đến con người, chứ không theo công nghệ nào được sử dụng. Cùng một mô hình có thể được đánh giá khác nhau khi dùng để tìm kiếm tài liệu nội bộ và khi dùng cho quyết định thẩm định một người.

Thứ hai, nghĩa vụ của nhà cung cấp khác nhau. Dịch vụ dùng AI tạo sinh phải thông báo trước cho người dùng về điều đó, và cách thông báo và ghi nhãn được quy định trong hướng dẫn minh bạch do Bộ Khoa học và Công nghệ Thông tin ban hành. AI tác động lớn ngoài ra còn phải xây dựng phương án quản lý rủi ro, phương án giải thích và phương án bảo vệ người dùng, đồng thời có hệ thống để con người quản lý và giám sát.

Thứ ba, mức độ hồ sơ phải lưu khác nhau. Dịch vụ thông thường tập trung vào việc đưa ra kết quả. AI tác động lớn yêu cầu lập và lưu các tài liệu xác nhận những biện pháp đã thực hiện để bảo đảm an toàn và độ tin cậy, nên quá trình phán đoán và các biện pháp đã áp dụng phải được ghi lại.

Nhiều trường hợp không rõ có thuộc loại này hay không. Luật có quy trình cho phép doanh nghiệp đính kèm các tài liệu liên quan, như bản tổng quan dịch vụ, và yêu cầu Bộ trưởng Bộ Khoa học và Công nghệ Thông tin xác nhận xem có phải AI tác động lớn hay không.

Năm nghĩa vụ mà nhà cung cấp AI tác động lớn phải đáp ứng

Nội dung năm nghĩa vụ theo luật quy định

Thứ nhất, thiết lập và vận hành phương án quản lý rủi ro. Nhận diện và quản lý các rủi ro có thể phát sinh khi AI phán đoán sai, đặt ra phương án để làm việc đó, và bảo đảm phương án đã đặt ra được tuân thủ trong vận hành thực tế.

Thứ hai, thiết lập và thực hiện phương án giải thích. Chuẩn bị cách để giải thích kết quả AI đưa ra và các tiêu chí được dùng cho kết quả đó.

Thứ ba, thiết lập và vận hành phương án bảo vệ người dùng. Chuẩn bị và vận hành các biện pháp để bảo vệ người dùng chịu ảnh hưởng từ phán đoán của AI.

Thứ tư, con người quản lý và giám sát. Thiết lập một hệ thống trong đó con người có thể kiểm tra phán đoán của AI và sửa khi cần thiết.

Thứ năm, lập tài liệu xác nhận các biện pháp bảo đảm an toàn và độ tin cậy, rồi lưu giữ trong năm năm.

Tiêu chuẩn chi tiết cho từng nghĩa vụ do các văn bản pháp luật cấp dưới như nghị định thi hành quy định, nên việc chuẩn bị thực tế phải được thực hiện đồng thời với việc đối chiếu nội dung gốc của luật.

Cách chuẩn bị cho AI tác động lớn trong thực tế

Kiểm tra mức độ áp dụng theo từng nghiệp vụ trước

Lập danh sách các nghiệp vụ mà tổ chức đang dùng hoặc dự định dùng AI, và đánh dấu trong từng nghiệp vụ kết quả AI có được dùng cho quyết định về con người hay không. Mức độ ảnh hưởng khác nhau tùy theo việc cán bộ chỉ tham khảo kết quả hay kết quả được phản ánh trực tiếp vào quyết định.

Với công việc khó phán đoán, hãy nhờ bộ phận pháp lý xem xét, và khi cần thì sử dụng thủ tục yêu cầu xác nhận. Việc ghi lại kết quả kiểm tra và lý do phán đoán sẽ trở thành tiêu chuẩn để xem xét lại khi công việc thay đổi hoặc phạm vi sử dụng AI được mở rộng.

Lưu căn cứ phán đoán và lịch sử

Để thực hiện phương án giải thích và nghĩa vụ lưu giữ tài liệu, bạn phải có khả năng cho thấy về sau AI đã đi đến kết quả như thế nào. Nếu dùng AI agent để sàng lọc tài liệu, hãy ghi lại cho từng hồ sơ vị trí trong bản gốc làm căn cứ phán đoán, các quy tắc đã áp dụng, và phiên bản mô hình cùng quy tắc đã sử dụng.

Hồ sơ phải ở dạng con người có thể đọc được, để có thể đáp ứng yêu cầu giải thích hoặc khiếu nại của người dùng. Khi thay đổi mô hình hoặc quy tắc, cũng cần lưu giữ so sánh kết quả trước và sau thay đổi cùng hồ sơ phê duyệt.

Giữ sự kiểm tra của con người đối với quyết định cuối cùng

Giám sát của con người khó đáp ứng được bằng một chữ ký mang tính hình thức. Hãy đặt một màn hình kiểm duyệt hiển thị kết quả phán đoán của AI cùng căn cứ, và lưu lại hồ sơ về việc con người đã phê duyệt hoặc sửa. Thiết kế luồng công việc sao cho các hồ sơ lệch khỏi tiêu chuẩn được tự động chuyển cho cán bộ phụ trách.

AI tác động lớn trong môi trường trong nước

Luật AI cơ bản coi là nhà cung cấp AI không chỉ các doanh nghiệp phát triển và cung cấp AI, mà cả các doanh nghiệp cung cấp sản phẩm hoặc dịch vụ sử dụng AI do người khác tạo ra. Một công ty kết nối mô hình bên ngoài qua API để làm công cụ sàng lọc cũng có thể thuộc đối tượng chịu nghĩa vụ.

Chính phủ cho biết sẽ đặt thời gian ân hạn tối thiểu một năm trước khi tiến hành điều tra thực tế và áp dụng phạt tiền. Tuy nhiên, thời gian ân hạn là thời gian để chuẩn bị chứ không phải là thời gian không có nghĩa vụ, nên tốt hơn là bắt đầu sớm với những việc cần thời gian, như hệ thống lưu hồ sơ.