高影響AIとは何か: 人の安全と基本的権利に影響するAIと事業者の責務の完全ガイド

高影響AIとは、人の生命と身体の安全、基本的権利に重大な影響を及ぼすおそれや、危険を招くおそれがあるAIを指す、AI基本法上の概念です。このAIを提供する事業者には、リスク管理、説明、人による管理・監督といった責務が課されます。

高影響AIを知っておくべき理由

AIが人に対する決定に使われ始めました。

AIが文書の要約や検索の補助にとどまっていた時期は、結果が誤っていても、人が正す余地が大きくありました。今ではAIは、採用、与信評価、融資審査のように、一人の権利や機会に直接影響する判断にも使われています。こうした判断を誤ると、取り返しのつかない被害が生じるおそれがあります。

国内では、「人工知能の発展と信頼基盤の構築等に関する基本法」、通称AI基本法が、施行令とともに2026年1月22日から施行されました。この法律は、AIのうち人の安全と基本的権利に重大な影響を与えうるものを高影響AIに区分し、採用や融資審査を含む10の分野を定めたうえで、そのAIを提供する事業者に別途の責務を課しています。

自社でモデルを開発せず、外部のAIを利用する企業も例外ではありません。業務にAIを取り入れようとする組織であれば、まず自社のサービスが高影響AIに該当するかどうか、該当する場合に何を準備すべきかを確認しなければなりません。

高影響AIの正確な定義: 一般のAIサービスとどう違うのか

一般のAIサービスと高影響AI、3つの軸の違い

第一に、区分の基準が異なります。高影響AIは、どの技術を使ったかではなく、AIがどこで使われ、人にどのような影響を与えるかで判断されます。同じモデルでも、社内文書の検索に使う場合と、人を審査する決定に使う場合とでは、判断が変わることがあります。

第二に、事業者の責務が異なります。生成AIを使うサービスは、その事実を利用者に事前に知らせるなどの義務があり、告知と表示の方法は科学技術情報通信部が定めた透明性に関する案内指針で扱われています。高影響AIは、これに加えて、リスク管理方案、説明方案、利用者保護方案を整え、人が管理・監督する体制を備えなければなりません。

第三に、残すべき記録の水準が異なります。一般のサービスは結果を提供することが中心です。高影響AIは、安全性と信頼性を確保するためにどのような措置を講じたかを確認する文書を作成し、保管する必要があるため、判断の過程と講じた措置が記録として残っていなければなりません。

該当するかどうかが明確でないケースも多くあります。法律では、サービス概要書などの関連書類を添付して、科学技術情報通信部長官に高影響AIへの該当を確認するよう求める手続きが設けられています。

高影響AI事業者が備えるべき5つの責務

法律が定めた5つの責務の内容

第一に、リスク管理方案を策定し、運用します。AIが誤った判断をしたときに生じうるリスクを把握して管理する方案を定め、定めた方案が実際の運用で守られるようにする必要があります。

第二に、説明方案を策定し、実施します。AIが出した結果と、その結果に用いられた基準を説明できる方法を用意します。

第三に、利用者保護方案を策定し、運用します。AIの判断によって影響を受ける利用者を保護するための方案を用意し、運用します。

第四に、人が管理し、監督します。AIの判断を人が確認し、必要に応じて修正できる体制を設けます。

第五に、安全性と信頼性の確保のために講じた措置を確認した文書を作成し、5年間保管します。

各責務の詳細な基準は施行令などの下位法令で定められるため、実際の準備は法令の原文を確認しながら進める必要があります。

高影響AIに備える実際の方法

業務ごとに該当するかをまず点検します

組織内でAIを使っている、または使おうとしている業務を一覧にし、各業務でAIの結果が人に対する決定に使われるかどうかを記します。結果を担当者が参考にするだけなのか、決定にそのまま反映されるのかによって、影響の大きさは変わります。

判断が難しい業務は法律の検討を受け、必要に応じて確認要請の手続きを活用します。点検の結果と判断の理由も記録しておけば、業務が変わったりAIの利用が広がったりした際に、再検討の基準となります。

判断の根拠と履歴を残します

説明方案と文書保管の責務を果たすには、AIがどのような過程で結果を出したかを、後から示せるようにしておく必要があります。文書審査にAIエージェントを使う場合は、判断の根拠となった原文の位置、適用したルール、使用したモデルとルールのバージョンを、件ごとに記録します。

記録は人が読める形式でなければ、利用者からの説明要求や異議申し立てに対応できません。モデルやルールを変更した場合は、変更前後の結果の比較と承認の記録もあわせて保管します。

最終的な決定には人の確認を置きます

人による管理・監督は、形式的な署名だけでは満たしにくいものです。AIの判断結果と根拠をあわせて示す確認画面を設け、人が承認または修正した記録を残します。基準から外れた案件は、自動的に担当者へ回る流れを設計します。

国内環境での高影響AI

AI基本法は、AIを開発して提供する事業者だけでなく、他者が開発したAIを利用して製品やサービスを提供する事業者も、人工知能事業者とみなします。外部のモデルをAPIで接続して審査ツールを作った企業も、責務の対象になりえます。

政府は、事実調査と過料の賦課を最低1年以上猶予する啓導期間を設けるとしています。ただし、啓導期間は準備のための時間であり、義務のない期間ではありません。記録体制のように時間がかかる準備は、早めに始めるほうが良いでしょう。