長い文書を、AIが扱いやすい大きさのかたまり(チャンク)に区切る処理です。切れ目が悪いと前後の文脈が途切れて検索精度が下がり、良ければ関連情報を的確に拾えます。RAGの精度を大きく左右する下ごしらえです。
あなたの会社でいうと
業種を選ぶと、あなたの会社の例えが最初に表示されます。
あなたの業種:
-
書類・規程参照型のケース
分厚い規程集を、条項・別表単位でクリップに束ね直す仕分け作業のようなものです。束の切り方で参照しやすさが変わります。
-
受発注・在庫型のケース
大量の受注データを商品カテゴリごとに区切って一覧にする作業のようなものです。区切り方で在庫の追いかけやすさが変わります。
-
接客・問い合わせ型のケース
長いマニュアルを「返品」「配送」「在庫」の相談トピックごとに切り分けてFAQ化する作業のようなものです。切り方で回答精度が変わります。
-
製造・現場型のケース
長い作業手順書を工程ごとに区切って現場に貼り出す作業のようなものです。区切りが工程と合っていないと現場が迷います。
-
専門サービス型のケース
膨大な仕様書を機能単位・章単位で区切って参照しやすくする作業のようなものです。区切り方で調査工数が大きく変わります。
役員向けの1行
RAGの精度は切り方で決まる。地味だが土台の作業です。
よくある誤解
小さく切れば良いと思われがちですが、細かすぎると文脈が失われて逆に精度が落ちます。文書の性質で最適サイズは異なります。