当社のAIチャットボットシステムの「AIシステム影響評価」解説(3)

おはようございます！マネジメントオフィスいまむらの今村敦剛です。

今年2月に導入した当社のAIチャットボットシステムに関しまして、先日「AIシステム影響評価」を公開しました。これを解説していきたいと思います。今回は第3章「意図した用途」と第4章「データ要件」です。

スポンサーリンク

当社のAIチャットボットシステム「AIシステム影響評価」はこちら

これまでの解説記事はこちら

第3章「想定される負の影響」

第3章の各項目について、説明を以下にします。

3.1 利用制限

【記入が求められる内容】法的・社内ポリシーに基づくAIの利用制限内容。
【なぜこの記入が求められるか？】不適切な利用による法的リスクや規定違反を防ぐため。
【本件での記入内容】個人情報を収集・保存しない設定と、チャット画面で個人情報入力の注意喚起。

3.2 非対応の用途

【記入が求められる内容】本システムが対応しない、または禁止される用途。
【なぜこの記入が求められるか？】誤った期待や不適切な利用を防止し、ユーザーの誤解を避けるため。※注：AIシステムは本来意図している用途とは別の用途で使うとリスクが生じる。（例：製造現場の安全リスクを監視するAIシステムを、労働者の監視システムに使うと、プライバシーの問題が生じる）
【本件での記入内容】経営・医療・法律・金融などの専門アドバイスは非対応として明記。注：チャットボットは当社のサービス案内用途で導入するものだが、そこに経営上のアドバイスを求められて回答したものを信じられても困る、ということ。

3.3 既知の制限事項

【記入が求められる内容】システムの技術的・運用上の制約や注意点。
【なぜこの記入が求められるか？】AIの限界を明示し、利用時のリスク回避や適切な運用を促すため。
【本件での記入内容】FAQ以外の複雑な質問や誤字への弱さ、インターネット依存、最新情報への遅れなどを記載。

3.4 システムの失敗がステークホルダーに与える影響

【記入が求められる内容】誤検出・見逃しなどの失敗が、各ステークホルダーに与える影響。
【なぜこの記入が求められるか？】失敗時のリスク把握と、事前のリスク対策立案のため。
【本件での記入内容】誤検出による業務負担増、誤対応による顧客満足度低下やブランド毀損のリスクなど。

3.5 システムの誤使用がステークホルダーに与える影響

【記入が求められる内容】誤用（意図的・非意図的）による悪影響の具体例と影響範囲。
【なぜこの記入が求められるか？】誤用時の損害やリスクを想定し、注意喚起や運用設計に活かすため。
【本件での記入内容】本来用途外での利用、AI発言の悪用、サーバー負荷などを例示し、関係者への影響を記載。

3.6 慎重な対応が求められる用途

【記入が求められる内容】法的・倫理的に慎重な対応が必要かを判定。
【なぜこの記入が求められるか？】AIが社会的に重大な影響を及ぼすかを確認し、ガバナンス強化に活用するため。
【本件での記入内容】「慎重な対応が求められる基準」に該当しない（すべて「いいえ」）と記載。

第4章「データ要件」

第4章の各項目について、説明を以下にします。

4.1 データ要件

【記入が求められる内容】AIに必要なデータの種類やフォーマットを具体的に記載。
【なぜこの記入が求められるか？】必要データの明確化と、データ収集・運用ルールの整備のため。
【本件での記入内容】自社Webサイトから作成したQ&Aデータ（JSON）や製品情報（HTML・テキスト）を使用。

4.2 既存データセット

【記入が求められる内容】既存データセットの有無と適用の有無、または「該当なし」。
【なぜこの記入が求められるか？】外部データ使用時の適法性や適切性を確認するため。
【本件での記入内容】既存データセットは使用せず、自社Q&Aデータのみを用いると記載。

次回に続きます。