用語集をすべて見る

導入と運用

オンプレミスとは何か: 文書を外に出さずにAIを使う方法の完全ガイド

Korea Deep Learning作成

オンプレミス(On-Premise)とは、外部の事業者のクラウドではなく、顧客企業が直接管理する社内サーバーにモデルとシステムをインストールして運用することで、処理対象のデータが組織の境界の外に出ないように構成する方式です。

オンプレミスが要件になる理由

文書を送れない組織があります。

クラウドサービスが一般的になるにつれ、ソフトウェア導入の議論の多くは、どのサービスを使うかから始まります。しかし金融や公共では、その前に別の問いが置かれます。この文書を外へ出してよいか、という問いです。与信審査の書類には個人の所得や口座情報が含まれ、被害救済の申請書には被害者の身元や事件の内容が含まれます。こうした文書を外部サーバーへ送信する構成は、内部規定と監督規定の両方に抵触します。

そのため、これらの組織にとってオンプレミスは複数の選択肢の1つではなく、通過しなければならない要件です。性能がどれほど優れていても、社内にインストールできないソリューションは検討リストから真っ先に外れます。導入検討の最初の関門が技術評価ではなく、提供方式の確認である理由がここにあります。

オンプレミスの正確な定義: クラウド方式とどう違うのか

クラウド方式とオンプレミス、3つの軸での違い

第一に、対象が違います。クラウド方式で顧客企業が管理するのは、リクエストとレスポンスの仕様だけです。オンプレミスでは、サーバー、アクセラレーター、コンテナ環境、ストレージ、アクセス権限まで顧客企業の管理範囲に入ります。管理するものは増えますが、その分、制御できる範囲も広がります。

第二に、目的が違います。クラウド方式の目的は、素早く接続して使うことです。オンプレミスの目的は、データを外に出さずに、運用規模の処理量を安定してまかなうことです。前者は導入の速さを優先し、後者は制御可能性を優先します。

第三に、評価指標が違います。クラウド方式では、応答時間と処理量の上限を見ます。オンプレミスでは、これに加えて、閉域網でのインストールが可能か、必要なアクセラレーターの仕様、モデルの更新手順、監査ログの要件、障害対応の体制も見ます。実際の構成では、推論と文書処理の全過程が社内ネットワーク内で実行され、権限管理、処理履歴の記録、運用環境と検収環境の分離が併せて提供されます。

2つの方式は代替関係ではありません。初期の検証は外部呼び出しで素早く進め、運用の段階で社内インストールへ移行する経路がよく見られます。そのため、検討の時点で確認すべきなのは、現在使っている方式ではなく、同じエンジンで両方の方式を提供しているかどうかです。

導入を決定する前に確認するオンプレミスの5つの要件

実際の構築に必要なオンプレミスの5つの要件

第一に、閉域網でインストールが完結する必要があります。インストール時に外部のリポジトリに接続してコンポーネントをダウンロードする構造であれば、インターネットが遮断された環境で作業が止まります。必要なイメージとモデルの重みを持ち込み媒体で移して、インストールできるかを確認してください。

第二に、アクセラレーターの仕様が明確である必要があります。視覚言語モデルをベースにした処理は演算量が大きいため、アクセラレーターがなければ実用的な速度は出ません。月間の処理量と、ピーク時間帯への集中度をもとに必要な規模を見積もり、増設の経路もあらかじめ確認しておくとよいでしょう。

第三に、モデルの更新手順を管理できる必要があります。外部のモデルは事業者の判断で更新され、性能が予告なく変わります。社内インストールでは、新しいバージョンを検証し、承認の手続きを経て反映し、必要であれば以前のバージョンに戻せなければなりません。

第四に、監査対応の要件を満たす必要があります。誰がどの文書をいつ処理し、どの値が修正されたのかが記録として残らなければなりません。役割ごとのアクセス制御と処理履歴の保管は、金融や公共の監査で繰り返し求められる項目です。

第五に、運用担当者の負担を計算する必要があります。社内インストールは、サーバーとコンテナ環境を顧客企業が一緒に抱える方式です。監視ツール、障害通知、定期点検の手続きが一緒に提供されるかどうか、ベンダーのリモートサポートの範囲がどこまでかを、契約の前に整理しておいてください。

オンプレミスの実際の適用方法

配備の構造を階層に分けます

インストールの設計は、機能を階層に分けることから始まります。文書を受け付けるアプリケーション層、認識と構造化を行うモデル層、結果と原本を保管するデータ層、業務システムとつながる連携層に分けておくと、後の増設や入れ替えが容易になります。

実際の構成では、コンテナベースで各層を配置し、アクセラレーターのリソースはモデル層だけに割り当てる方式が一般的です。リレーショナルデータベースに処理履歴と結果のメタデータを置き、元のファイルはオブジェクトストレージに置き、作業キューとキャッシュを別に運用する構成がよく使われます。

検収と運用の環境を分けます

社内インストールの利点は、データが外に出ないことだけではありません。検収環境を運用環境から分けられることも、実務では大きな利点です。新しい書式が入ってきたときに、まず検収環境で抽出基準を試し、結果を確認してから、承認の手続きを経て運用に反映する流れを作ることができます。

この構造が整うと、運用中の変更が事故につながるリスクが下がります。逆に、2つの環境を分けていないと、書式を1つ追加するたびに運用の性能が揺らぐおそれがあります。

韓国環境でのオンプレミス

韓国で、オンプレミスの要件を生み出す最も直接的な規定はネットワーク分離です。業務ネットワークとインターネット用ネットワークが分かれていると、外部APIの呼び出し自体が遮断されるため、社内インストール以外に選択肢がなくなります。

金融分野では、電子金融監督規程と金融保安院のガイドラインに沿った構成が求められます。公共分野では、機関ごとのセキュリティ指針と個人情報の取り扱い基準が追加で適用されます。どちらの分野にも共通する条件は、個人情報の国外への移転がほぼ不可能であるという点です。

もう1つ考慮すべきなのは、韓国語ワープロ文書などの韓国独自の文書形式です。閉域網の中で韓国語ワープロ文書を変換するには、関連する処理コンポーネントも社内にインストールされている必要があります。この部分が抜けると、インストールは終わったのに、実際の受付文書を開けないという事態になります。

よくある質問

インターネットが遮断された環境にもインストールできますか?

可能です。必要なコンポーネントとモデルを持ち込み媒体で移してインストールします。インストールの過程で外部への接続が必要かどうかは、事前にご確認ください。

クラウドで先に検証してから、社内に移行できますか?

可能です。同じエンジンを両方の方式で提供している場合、検証段階の抽出基準とスキーマをそのまま移行できます。

どの程度のスペックが必要ですか?

処理量によって異なります。視覚言語モデルの推論にはアクセラレーターが必要で、月間の文書量とピーク時の集中度をもとに規模を見積もります。導入の検討時に実際の量をお知らせいただければ、構成案をご一緒に検討できます。

モデルの更新はどのように行われますか?

新しいバージョンを検収環境でまず評価し、承認の手続きを経て運用に反映します。問題が起きた場合には、以前のバージョンに戻せるように構成します。

個人情報が国外に移転されることはありますか?

ありません。推論と文書処理はすべて顧客企業の社内ネットワーク内で行われるため、原本は組織の外に出ません。

処理履歴はどのように残りますか?

アクセス権限と処理履歴が記録として保管され、運用環境と検収環境を分けておくことで、変更の手続きを管理できます。監査対応に必要な項目は、導入の時点であわせて定義します。

社内ネットワークの構築構成案と仕様の算定資料をお送りします。月間の文書量だけお知らせいただければ十分です。

お問い合わせ