AgentOpsとは何か：業務を遂行するAI Agentを統制し改善する運用体制の完全整理

AgentOpsとは、AI Agentがツールを呼び出し、システムに入力し、業務を遂行する過程全体を記録し、権限と承認、業務単位の評価、停止と復旧を管理して、エージェントを安全に運用する体制です。

AgentOpsが必要な理由

回答ではなく、行動が残るようになりました。

生成AIが回答するだけだった頃は、誤った答えを人が取り除けば済みました。AI Agentは違います。文書を読んで条件を判断したあと、ERPに値を登録し、メールを送り、次の工程へ業務を渡します。一度の誤った判断が、複数のシステムに痕跡を残します。

エージェントによる一件の処理は複数の段階で構成されます。どの段階でどんな根拠によりどのツールを呼び出したかの記録がなければ、結果が誤っていたときに原因が認識なのか、判断ルールなのか、システム連携なのかを見分けられません。

エージェントにできることの範囲を決め、人の承認が必要な地点を設け、問題が起きたら止めて元に戻せてはじめて、業務を任せられます。この要請を運用体制としてまとめたものがAgentOpsです。

エージェントを試行業務から実際の業務へ広げる段階で、この違いが表れます。試行運用では担当者が結果をすべて見守りますが、処理量が増えると人が一件ずつ見ることはできないため、記録と統制が体制として整っていなければなりません。

AgentOpsの正確な定義：LLMOpsと何が違うのか

LLMOpsとAgentOps、三つの軸の違い

第一に、管理の単位が違います。LLMOpsはモデル呼び出し一回の入力と出力を単位として管理します。AgentOpsは一件の業務を処理するためにつながった判断、ツール呼び出し、システム入力の連鎖全体を単位として管理します。

第二に、リスクの性質が違います。LLMOpsが主に扱うリスクは、誤った回答や根拠のない回答です。AgentOpsはそれに加えて、権限外のシステムにアクセスする、承認なしに値を登録する、同じ作業を繰り返し実行するといった行動のリスクを扱います。

第三に、評価の基準が違います。LLMOpsは回答の正確さと形式を採点します。AgentOpsは業務が最後まで正しく処理されたか、人が介入した地点はどこか、処理時間とコストはどれだけかを業務単位で見ます。

AgentOpsはLLMOpsに代わるものではなく、その上に位置します。エージェントの中で使うモデルとプロンプトはLLMOpsで管理し、そのモデルが動かす業務フローはAgentOpsで管理します。

AgentOpsを構成する4つの機能

エージェントに業務を任せるための4つの機能

第一に、実行の追跡です。一件ごとに、どの文書を読み、どのルールで判断し、どのツールをどの値で呼び出したかを順番に残します。

第二に、権限と承認です。エージェントが照会だけできるシステムと入力までできるシステムを分け、金額が大きい案件や基準から外れた案件は人の承認を経てから実行するよう定めます。承認基準はエージェントの設定の中ではなく別のルールとして置いておくことで、業務部門が確認し修正できます。

第三に、業務単位の評価です。段階ごとの精度とともに、業務完了率と例外の比率、一件あたりの処理時間を見ます。段階ごとの成績が良くても、フローが途中で途切れれば業務は終わりません。

第四に、停止と巻き戻しです。異常な行動を検知したらエージェントを止め、すでに実行した入力を取り消したり人に引き継いだりできなければなりません。

四つの機能は互いにかみ合っています。実行記録があってこそ承認基準を調整でき、元に戻せるからこそ権限を広げてみることができます。

AgentOpsの実際の適用方法

狭い権限から始めて広げていきます

最初からエージェントに入力権限まで与えることはしません。初期には判断結果と入力する値を提案させるだけにして、人が承認して実行します。承認履歴で修正がほとんどない業務類型から自動実行に切り替えます。

権限を広げるたびに切り替えの基準と日付を記録しておけば、問題が起きたときにどの決定からさかのぼればよいかがわかります。

実行記録を業務担当者が読める形で残します

開発者向けのログだけでは、業務部門はエージェントの判断を検討できません。判断の根拠となった原文の位置と適用したルール、実行した作業を業務用語で要約した処理履歴を合わせて残します。

処理履歴は監査対応の資料であると同時に、改善の出発点でもあります。担当者がエージェントの判断を修正した案件を集めてみると、どのルールが足りないのか、どの文書類型で判断が揺らぐのかが見えてきます。

変更は同じ業務案件で検証します

判断ルールやモデル、連携方式を変えるときは、過去に処理した業務案件をもう一度流し、結果がどう変わるかを比較します。実際のシステムに入力しない試験環境でまず確認し、承認手続きを経て運用に反映します。変更前のバージョンは残しておき、すぐに戻せるようにします。過去の案件の結果が変わった場合は、その違いが意図した変更によるものかを一つずつ確認します。

国内環境におけるAgentOps

韓国の金融と公共分野は、電算作業の責任の所在とアクセス記録を厳格に求めます。エージェントが行った入力も人の作業と同じ水準で、誰が承認し、どんな根拠で実行されたかが残っていなければなりません。

既存のERPやEDMS、RPAと連携する場合が多いため、エージェント専用のアカウントと権限を別に発行し、ネットワーク分離環境でも実行記録を内部に保管できるよう構成します。

よくあるご質問