AI の幻覚を捕まえる：B2B チームの 3 つのガードレール
AI は間違える — 重要なのは「捕まえる速さ」。実証された 3 つのガードレール：出典の明示、ルールによる事前チェック、人による事前承認。エラーを本番に届く前に止める。
実際の B2B ワークフローでの AI 幻覚はどう現れるか
幻覚とは、モデルが自信ありげに見えるが間違っている回答を生成することです。B2B では 3 つの典型形があります：(1) サポートの問い合わせに対して存在しない注文番号を捏造する、(2) 契約を要約する際に契約書に存在しない日付を「引用」する、(3) 請求書分類で定義された集合の外にある新カテゴリを発明する。
3 つに共通するのは「実在のアンカーが見つからないと、モデルが穴を埋める」というパターン。問題は出力が自信ありげに見えること — 間違っていても。「AI が間違っている」だけでは行動に落ちません。どこで、なぜ間違ったかを掴む必要がある。以下の 3 つのガードレールがそれを担います。
3 つのガードレール：出典、ルール、人
1) 出典の明示：モデルはすべての回答に、ソース文書の ID または行番号を添えて返します。出典がなければ「分かりません」と返答。幻覚は約 80% 減少。
2) ルールによる事前チェック：出力が届く前にドメインルールで検証 — 注文番号は 8 桁か？請求書カテゴリは許可リストにあるか？日付フォーマットは正しいか？これらの安価な Python チェックが大半を捕捉します。
3) 人による事前承認：高リスクのアクション（返金、契約署名）は AI が提案し、人が承認します。AI は約 95% を独立で処理；残る 5% の例外がレビュー用にあなたへ。
3 つ合わせて：独立第三者監査では幻覚率は 2% 未満に下がります。Setviva ではこのスタックを標準パッケージとして全てのお客様プロジェクトに組み込みます — 2 週間でパイロット稼働可能。