AIと猛獣使い

猛獣使いはライオンやトラの特性を理解し、十分なトレーニングを重ねてから本番のサーカスショーに臨む。彼らは本来人間の言うことなど聞かない猛獣に、ビジネス品質のパフォーマンスを発揮させるプロである。全く同じことが今、AIプロジェクトにも求められている。AIの非決定的な振る舞い（やってみなければどうなるか分からない）を許容範囲内に封じ込めなければ、ビジネスでは使い物にならないが、不十分なまま本番に臨んだり、練習の無限ループが出られないケースが相次いでいる。

サーカスでは猛獣が客席に飛び出さないような檻が設置されているが、AIにも二重三重の安全装置が必要である。エラー伝播対策のガードレールの設置、失敗時にリカバリーするフォールバックチェーン、必要に応じて人間が即時介入するエスカレーションフロー、完全に止めないためのグレースフルデグレーション、ブラックボックスな意思決定を解明する可観測性など、AIをビジネス品質でコントロールするための手札が揃いつつある。