AIが、事実に基づかない内容を、それらしい調子で断言してしまう現象のことです。存在しない条文や、実在しない製品名を作り上げてしまうことがあります。今のAIの仕組み上、この現象をゼロにはできず、業務利用では原典との突き合わせや人による確認工程が必須になります。
あなたの会社でいうと
業種を選ぶと、あなたの会社の例えが最初に表示されます。
あなたの業種:
-
書類・規程参照型のケース
実在しない条文をあたかも本当のように引用してしまう新人担当のようなものです。原典との突き合わせがないと信用できません。
-
受発注・在庫型のケース
存在しない商品コードや取引条件を、自信満々に伝えてしまう新人のようなものです。マスタとの突き合わせが必須になります。
-
接客・問い合わせ型のケース
実在しない返品ルールを、店舗独自の裁量として答えてしまう新人のようなものです。マニュアル確認なしでは信用できません。
-
製造・現場型のケース
実在しない部品番号や検査基準を、それらしく口にしてしまう新人のようなものです。図面と規格書での確認が欠かせません。
-
専門サービス型のケース
実在しない判例や統計を、それらしい調子で引用してしまう新人リサーチャーのようなものです。原典確認が必須になります。
役員向けの1行
AIは自信を持って嘘をつく。人による確認工程が必須になります。
よくある誤解
「最新モデルなら大丈夫」と売られがちですが、仕組み上ゼロにはなりません。確認プロセスの設計を省くと事故が起きます。