寄稿
エージェントが失敗する理由は知能ではなく制約
韓国ディープラーニング公開

韓国ディープラーニングのキム・ドンヒョン未来AI開発チーム長が、AIタイムズに「エージェントが失敗する理由は知能ではなく制約」を寄稿しました。
デモとパイロットにとどまった2025年
寄稿は、2025年のAIエージェントブームの成績表から始まります。期待に比べて、成果の大半は華やかなデモと慎重なパイロットでした。テキストの環境ではうまく動いていたエージェントが、実際の業務画面や多段階の手順ではエラーを積み重ね、例外的な状況では揺らぎ、「現場に置くには不安な自動化」という評価を受けたというのです。
問題は知能ではなく再現性
筆者は、問題の本質を再現性に見いだします。LLMエージェントは確率的に動作するため、同じ入力でも出力が変わることがあり、文書やデータが不完全だと、すき間をもっともらしく埋めるハルシネーションが起きます。コンテンツ生成では長所になりえても、企業の業務では致命的です。企業が求めているのは、より賢い回答ではなく、予測可能な実行と責任、監査の可能性だという指摘です。
「企業は『同じ入力に同じ結果』が導き出されてはじめて運用でき、責任と監査が可能になります。」
— キム・ドンヒョン 韓国ディープラーニング 未来AI開発チーム長
ハイブリッドなアプローチと判定の価値
寄稿は、セールスフォースがLLMのランダム性を信頼性の壁ととらえ、決定論的な自動化を組み合わせる方向へとかじを切った事例を挙げます。業務の重要度に応じて自律性と統制のレベルを変えて設計すべきであり、核心はLLMを使う量を減らすことではなく、LLMが勝手に行動できないようにすることにあるという説明です。
収益とリスクの低減が実際に起きるのは、カードニュースの制作や議事録の要約ではなく、「判定」の領域だという主張も展開します。保険の文書業務の価値は、要約ではなく、要件を満たしているかどうかをパス・フェイルで分けることにあります。必須項目の漏れ、署名と日付、証憑の適合性のようにルールで定義できる部分はルールとスキーマ、トリガーで処理し、あいまいな例外はLLMが根拠と候補をあわせて示したうえで検証器を通す構造が安定的だというのです。
「こうすれば、ハルシネーションを『なくしたいという願い』ではなく、事故に発展しないよう『防ぐ』設計として扱えるようになります。」
成否を分ける三つの制約
筆者は、企業向けエージェントに必要な制約設計として三つを示します。結果のフォーマットと許容範囲を固定して自由記述を減らす出力の制限、ルールのチェックとクロス検証を置き、失敗したら中断するか上位の段階に引き継ぐことを既定とする検証の強制、呼び出せるツールと実行権限を絞り込み、ログとリプレイで追跡できるようにする権限の最小化です。エージェントの時代の競争は、より大きなモデルではなく、制約された実行空間をどれだけ精緻に設計するかにかかっており、文書ベースの業務こそがこうした制約を定義するのに最も適した領域だというのが結論です。
全文はAIタイムズに掲載されました。
韓国ディープラーニングについて
韓国ディープラーニング(KDL)は、2019年に設立されたエンタープライズAIエージェント企業です。自社開発の文書特化型VLM「KDL Frontier」を基盤に、企業や公共機関の文書業務を担って処理するAIエージェントを開発しています。主な製品はDEEP OCR、DEEP Parser、DEEP Agent、DEEP Opsです。







