用語集をすべて見る

技術と構成

レイアウト分析とは何か: 文書の読む順序を決める処理の完全ガイド

Korea Deep Learning作成

レイアウト分析とは、文書1ページの中で、タイトル、本文、表、図、ヘッダーなどの領域がどこにあるかを判別し、それらの領域を人が読む順序に並べる処理です。

読む順序が問題になる理由

文章がばらばらに出てきます。

文書からテキストを抜き出したところ、内容が入り乱れて出てきた経験があるかもしれません。2段組みの報告書で左段と右段の文章が交互に混ざったり、表の中の値が本文の文の間に割り込んだりする形です。

原因の多くは読む順序にあります。ページを上から下へ、左から右へと走査する方法は、段が分かれた文書や表のある文書ではすぐに崩れます。人は見出しを見て段を認識し、表を別のものとして扱いますが、この判断がなければ文字をどれほど正確に読んでも、結果は使い物になりません。レイアウト分析は、その判断を代わりに行う処理です。

レイアウト分析の正確な定義: 文字認識とどう違うのか

文字認識とレイアウト分析、3つの軸での違い

第一に、対象が違います。文字認識は文字を対象にします。レイアウト分析は、文字が集まって作る領域と、それらの領域の配置を対象にします。

第二に、目的が違います。文字認識の目的は正確に書き写すことです。レイアウト分析の目的は、何がどこにあり、どの順序で読むべきかを決めることです。

第三に、評価指標が違います。文字認識は文字単位の正確さで測ります。レイアウト分析は、領域を漏れなく見つけられたか、領域の位置が正確かで測ります。ある公共文書の評価では、評価対象の要素をすべて検出し、位置も正確に捉えた事例が確認されています。

2つは代替関係ではありません。順序が決まって初めて認識結果に意味が生まれ、認識されて初めて領域の内容が埋まります。実務のパイプラインでは、レイアウト分析を先に置き、その上に文字認識を重ねます。

レイアウト分析が扱う4つの判断

処理の過程で行う4つの判断

第一に、領域の種類を見分けます。タイトル、本文、表、図、ヘッダーのいずれかを判別します。同じ大きさの文字でも、位置や周囲との関係によって役割が変わります。

第二に、領域の境界を決めます。どこまでが1つの表で、どこから次の段落が始まるかを分けます。罫線のない表や、余白だけで区切られた段落では難易度が上がります。

第三に、読む順序を決めます。段組み、挿入された図、脚注が混ざると、人でも一時的に迷う順序を決める必要があります。

第四に、階層を組み立てます。どの節の見出しの下にどの本文が属するかを決めると、後の検索や構造化での活用度が大きく高まります。

レイアウト分析の実際の適用方法

前段に置き、性能は別に測ります

レイアウト分析はパイプラインの前段にあるため、ここで見落とした領域は後段で復元されません。そのため、性能は文字認識とは別に測定すべきです。

測定の際は、領域をいくつ見つけたかと、位置がどれだけ正確かを分けて見ます。検出はうまくいっても、表の内部の復元が弱いケースが実際によくあります。2つの値を1つの数字にまとめないようにしてください。

文書の種類ごとに期待値を変えます

一般の報告書、官公庁の書式、税務申告書では、レイアウトの性格がまったく異なります。申告書では表が本文になり、案内文が表の中に入ります。報告書では見出しと本文の階層がはっきりしています。

検証に使う文書を選ぶ際には、この違いを反映させなければ実際の性能は見えてきません。1種類だけで測定すると、導入後に別の文書で予想外の結果が出ます。

韓国環境でのレイアウト分析

韓国の官公庁書式では、1ページの中に表、案内文、丸付き数字の項目番号が密に混ざります。表のセルがデータではなく、記入方法の案内であることも多いため、領域の種類を見分ける判断が特に重要です。

文書の状態も条件になります。FAXで受信した文書は傾いており、上部が切れ、罫線が薄くなっています。こうした文書では、レイアウト分析の前に傾き補正とノイズ除去を組み合わせる必要があります。

読む順序を決めることが核心です

レイアウト分析で、領域を分けることより難しいのは順序を決めることです。人はページを見て、どこから読むかを自然に判断しますが、段組みで編集された文書や、表の中に表が入った構造では、その判断が分かれます。

順序が狂うと結果が大きく変わります。2段組みの報告書で左段を最後まで読まずに右へ移ると、文章が混ざって意味が失われます。脚注が本文の途中に割り込むと、段落の論旨が途切れます。ヘッダーとフッターが本文に混ざると、ページごとに同じ文言が繰り返され、検索の品質が下がります。

そのため性能を確認する際は、領域をいくつ見つけたかに加えて、順序が正しいかも見る必要があります。ある公共文書の評価では、要素の検出と位置の正確さが一緒に確認されていますが、その値は順序の正確さとは別の指標です。

よくある質問

文字認識だけでは不十分ですか?

読む順序が決まらないと、文章が混ざってしまいます。段組みの文書や表のある文書では特にそうです。

性能はどのように確認しますか?

領域の検出数と位置の正確さを、文字認識とは分けて確認してください。1つの数字にまとめると、問題の箇所が見えなくなります。

どの領域まで区別されますか?

タイトルと節の見出し、本文、表、図、グラフ、数式、リスト、キャプション、ヘッダー、フッター、脚注などを区別します。

傾いたスキャン文書も処理できますか?

可能です。ただし、安定した結果を得るには、前段に傾き補正が入っている必要があります。導入を検討する際は、前処理の構成をご確認ください。

段組みで編集された文書も処理できますか?

可能です。ただし、順序の判定が難しい構造のため、検証用の文書に必ず含めて確認してください。

ヘッダーとフッターはどのように扱われますか?

本文と区別される要素として判別し、別に表示します。この区別がないと、ページごとに同じ文言が繰り返され、検索の品質が下がります。

構造が複雑な文書を1種類だけお送りいただければ、領域検出の結果をそのまま返信いたします。

お問い合わせ