顧客向け生成AIにおける安全対策とガバナンスの線引き

顧客と対話する生成AIを店舗に導入する際、同社はリスク管理の線引きを定めた。同社は、AIにさせること、絶対にさせないことを明確にし、リスクをどう回避、低減するかという管理基準を定義した。

特に誤回答が健康被害につながるアレルギー対応は最も厳格に管理された。AIがアレルギーについて絶対に直接回答しないようシステムを調整し、100%回答しないことを検証した上で店舗実験を開始した。一方、存在しないメニューの案内など実害の低い事象は低減措置を取りつつ受容する判断とした。本番公開前には専門部門が一体となり、100から200のサンプルを用いて品質チェックを繰り返した。

組織にAIを定着させる5つの原則と今後の展望

すかいらーくが実践するAI導入と定着には5つの原則がある。

1. 経営・顧客課題から始める
ツール選定ではなく、人手不足、品質、生産性、接客接点に接続する。
2. 個人技を仕組みに変える
実用可能な基盤構築、推進担当、コミュニティ、ガイドラインの展開。
3. 低いガードレールを素早く置く
利用経路、権限、禁止操作、ログを整え、限定実験から更新する。
4. 現場と専門家をチームに入れる
価値を知る人が回答品質とリスクの双方を評価する。
5. 小さく出し、学びながら広げる
PoC、限定公開、ログ確認、改善、標準化を繰り返す。

同社が目指すAIの組織導入とは、AIによって効率化して人を減らすことではない。効率化で生まれた余力を、人にしか生み出せない接客価値に戻すことである。人とAIが共存する外食体験の構築を目指している。