当社のAIチャットボットシステムの「AIシステム影響評価」解説(2)

おはようございます！マネジメントオフィスいまむらの今村敦剛です。

今年2月に導入した当社のAIチャットボットシステムに関しまして、先日「AIシステム影響評価」を公開しました。これを解説していきたいと思います。今回は第2章「意図した用途」です。

スポンサーリンク

当社のAIチャットボットシステム「AIシステム影響評価」はこちら

これまでの解説記事はこちら

第2章「意図した用途」

第2章の各項目について、説明を以下にします。

2.1 システムの目的に合っているかの評価

【記入が求められる内容】システムが想定用途の課題をどのように解決するかを記載。
【なぜこの記入が求められるか？】用途に対してAIが適切かを検証し、導入判断や効果測定に活用するため。
【本件での記入内容】チャットボットが24時間問い合わせ対応し、カスタマーサポートの負担軽減・営業時間外対応を実現。

2.2 ステークホルダーと潜在的な利益・リスク

【記入が求められる内容】関係者ごとに、得られる利益と生じうるリスクを整理。
【なぜこの記入が求められるか？】導入による影響を多面的に把握し、リスク軽減策を検討するため。
【本件での記入内容】顧客、担当者、運営者などに対し「負担軽減」「コスト削減」などの利益と「誤回答」「信頼性低下」のリスクを記載。

2.3 責任あるAI標準に基づく目標指向の要件に関するステークホルダー

【記入が求められる内容】各目標（A5、T1、T2、T3）ごとに、該当するステークホルダーを記載。
【なぜこの記入が求められるか？】AIの運用・説明責任・情報開示の役割分担を明確にするため。
【本件での記入内容】運用はシステム管理者やカスタマー担当、意思決定は顧客、管理者、情報伝達は代表取締役などを記載。

2.4 公平性の考慮

【記入が求められる内容】影響を受けるグループ、考慮すべき属性、公平性への配慮内容を記載。
【なぜこの記入が求められるか？】不公平や差別的な扱いを回避し、すべての利用者に配慮した設計を行うため。
【本件での記入内容】高齢者や非日本語話者などへの情報アクセスの困難さ、視覚障がい者への配慮不足リスクを記載。

2.5 技術成熟度評価

【記入が求められる内容】AI技術の導入実績や信頼性に関する成熟度を評価。
【なぜこの記入が求められるか？】技術的な信頼性を確認し、運用リスクの大きさを判断するため。
【本件での記入内容】「同様の用途で本番環境に導入実績あり」を選択し、技術的な信頼性を記載。

2.6 タスクの複雑さ

【記入が求められる内容】AIが担うタスクの難易度（単純～複雑）を分類。
【なぜこの記入が求められるか？】システムの誤作動やリスク発生の可能性を事前に把握するため。
【本件での記入内容】「複雑なタスク」を選択。AIが文章生成など、判断が難しいタスクを担う点を記載。

2.7 人間の役割

【記入が求められる内容】AI運用における人の介入頻度や役割の程度を記載。
【なぜこの記入が求められるか？】AIの自律度を明確にし、運用時の人的リスク管理に役立てるため。
【本件での記入内容】「ほぼ自動運用（必要に応じて人が介入）」を選択し、誤回答時に人が対応する旨を記載。

2.8 導入環境の複雑さ

【記入が求められる内容】導入環境（単純～複雑）を分類し、影響度を評価。
【なぜこの記入が求められるか？】導入先の環境がリスクに与える影響を事前に考慮するため。
【本件での記入内容】「中程度の複雑さの環境」を選択し、社内Webでの利用を想定。