当社のAIチャットボットシステムの「AIシステム影響評価」解説(1)

おはようございます！マネジメントオフィスいまむらの今村敦剛です。

今年2月に導入した当社のAIチャットボットシステムに関しまして、先日「AIシステム影響評価」を公開しました。これを解説していきたいと思います。

スポンサーリンク

当社のAIチャットボットシステム「AIシステム影響評価」はこちら

使用した「AIシステム影響評価」テンプレートについて

当社の「AIシステム影響評価」には、マイクロソフトが公開をしたテンプレートを使用しました。

「AIシステム影響評価」とは、AI（人工知能）に関するプロジェクトが、社会や人に与える影響をチェックするものです。このてめののテンプレート（書式）です。簡単に言うと「このAIは安全で、人に悪い影響を与えないか？」をきちんと確認するためのチェックシートのようなものです。

AIは便利ですが、場合によっては人権を侵害したり、差別を助長したりする危険もあります。そこで「AIが人を不公平に扱っていないか」「AIが誤って人に悪い影響を与える可能性はないか」などのリスクを事前に考えることが大切だとされています。このテンプレートを使うことで、そうしたリスクを見落とさないようにするという趣旨で、これを利用するわけですね。

一般的には、新しいAIシステム（サービス・製品）を開発するときや、すでにあるAIシステム等を大きくアップデートするとき、規制当局などに提出が必要なときに「AIシステム影響評価」を作成することになります。AIマネジメントシステムの国際規格でもあるISO42001も、AIシステム影響評価の作成を要求事項としています。

第1章 システム情報

第1章の各項目について、説明を以下にします。

1.1 システム情報

【記入が求められる内容】システム名、チーム名、作成者、最終更新日、レビュー担当者。
【なぜこの記入が求められるか？】誰が作成・更新・レビューを行ったかを明示し、責任者やプロセスを記録するため。
【本件での記入内容】「マネジメントオフィスいまむら チャットボット」、代表取締役 今村敦剛、2025年2月26日。

1.2 システムのライフサイクル段階

【記入が求められる内容】システムの各開発段階ごとの完了予定日（計画～廃止）。
【なぜこの記入が求められるか？】AIシステムの進捗状況やライフサイクルの管理・レビューを容易にするため。※注：AIのリスクはライフサイクル（開発段階から実装、組込、提供開始、利用、廃止までの段階）にそって生じる可能性があるので、ライフサイクルを明確にする必要があります。
【本件での記入内容】2025/2/2計画～2025/5/31保守まで記載。廃止は「未定」と記入。

1.3 システムの説明

【記入が求められる内容】誰でも理解できるよう、システムの仕組み・特徴を簡潔に説明。
【なぜこの記入が求められるか？】レビュー担当者や第三者がシステムを正しく把握するため。※注：AIシステム影響評価は、最終的に、自社の責任者（＝レビュー担当者）に承認を得る必要がある。
【本件での記入内容】WordPress上で動作するAIチャットボットで、OpenAI APIを活用して問い合わせに自動応答。

1.4 システムの目的

【記入が求められる内容】システムの利用目的、利用者ニーズ、AI技術の貢献を記載。
【なぜこの記入が求められるか？】AIが何を達成するために使われ、どのような価値を生むかを明確にするため。
【本件での記入内容】FAQ対応や業務効率化、24時間自動応答によるユーザー利便性の向上など。

1.5 システムの機能

【記入が求められる内容】現在の主要機能、今後追加予定の機能、他システムとの連携状況。
【なぜこの記入が求められるか？】システムの全体像を把握し、リスクや影響範囲の確認をするため。
【本件での記入内容】AIチャット機能、FAQ自動応答、OpenAI API連携、WordPressとの統合など。

1.6 対応地域と言語

【記入が求められる内容】導入済み地域・将来導入地域、対応言語、法規制や文化的配慮の有無。
【なぜこの記入が求められるか？】地域・言語ごとの法的・倫理的リスクを考慮するため。※注：リスクは地域によって変わる可能性があります。例えばAIによるリアルタイム顔認証システムは、テロ等が多い国であれば歓迎されますが、そうでない国ではプライバシー侵害のリスクが高く評価され敬遠される可能性があります。
【本件での記入内容】日本国内で使用、日本語対応のみ。将来的な他地域・多言語展開はなし。

1.7 導入形態

【記入が求められる内容】現状の導入方法と、今後変更予定があるかどうか。
【なぜこの記入が求められるか？】AIの導入形態により、ユーザー体験やリスク要因が変わるため。
【本件での記入内容】WordPressに統合されたチャットウィジェット形式で提供、変更予定なし。

次回に続きます。