おはようございます！マネジメントオフィスいまむらの今村敦剛です。
ISO42001各箇条解説シリーズ、今回は附属書Aの中から、「A.7 AIシステム用データ」と「A.8 AIシステムの関係者向け情報」について解説します。データと情報提供の管理がリスク対応にどう役立つのかを、具体的におわかりいただけると思います。
動画でも解説しています（無料・登録不要）
ISO42001「A.7 AIシステム用データ」の管理策
まずは「A.7 AIシステム用データ」の管理策について説明をします。AIが正しく働くためには、その判断材料となる「データ」がとても大切です。ここでは、データをどう管理するかという5つのリスク対応策（管理策）が決められています。
1つ目は「A.7.2 AIシステムの開発・改善のためのデータ」です。AIの開発に使うデータについて、個人情報や機密情報をどう扱うか、データに間違いがないようにどう管理するかなど、具体的な管理方法を決めて文書化します。
2つ目は「A.7.3 データの取得」です。AIに使うデータを、自社で集めるのか、外部から購入するのかといった「どこから、どんな方法で集めるか」を決めて文書化します。著作権などの権利もここで考慮します。
3つ目は「A.7.4 データ品質」です。データの質が悪いと、AIの答えが間違ってしまいます。そこで、データ品質に関する要件（偏りがないか等）を決めて文書化し、実際にAIに使う時にその要件を満たしているかを確認します。
4つ目は「A.7.5 データ来歴」です。これはデータの履歴書のようなものです。いつ、どこで、誰が作ったデータかという「出どころ」を記録する方法を決めて文書化します。
5つ目は「A.7.6 データ準備」です。生データをそのままAIに入れるのではなく、間違ったデータを取り除いたり、欠けたデータを補ったり、フォーマットを統一したりする「データの前処理」の方法を決めて文書化します。
ISO42001「A.8 AIシステムの利害関係者のための情報」の管理策
次に「A.8 AIシステムの利害関係者のための情報」の管理策です。これは、ユーザーなどの関係者が、AIシステムのリスクを正しく理解して使えるようにするためのもので、4つの管理策があります。
1つ目は「A.8.2 利用者のためのシステム文書及び情報」です。AIを使うユーザーが安全に使えるように、システムの目的、使い方、制約、注意点など、いわゆる「取扱説明書」のような情報を提供します。
2つ目は「A.8.3 外部への報告」です。AIを使ってみて、不具合や誤判定などがあったときに、顧客や外部の人が組織に報告できる窓口（仕組み）を作っておくことを求めています。
3つ目は「A.8.4 インシデントの伝達」です。もしAIの重大な誤作動や予期しない悪い影響が起きてしまったときに、関係者にどうやって報告するかの仕組みをあらかじめ作っておきます。
4つ目は「A.8.5 利害関係者のための情報」です。A.8.2の操作方法とは別に、リスク情報やシステム影響評価の結果などを、必要に応じて顧客や規制当局などに伝える義務を決め、その伝達方法を文書化するものです。
ISO42001 A.7とA.8がどうリスク低減につながるか
では、これらの管理策が「リスク対応」としてどう役立つのか。あるメーカーが、製品の「キズや不良」をカメラ映像から自動で見つける「AI搭載の画像検査装置」を開発し、顧客の工場に納入するケースで考えてみましょう。
このメーカーは事前のリスクアセスメントで、「AIが微細なキズを見逃して不良品が流出し、大規模なリコール（回収）になるリスク」と、「顧客がAIを過信しすぎて、人間のチェックを怠ってしまうリスク」の2つを特定しました。 この重大なリスクに対応するために、A.7とA.8の管理策が重要になります。
まず、「キズの見逃し」というリスクを技術的に下げるために「A.7 データ」の管理策を使います。 開発チームは、AIに学習させるキズ画像の「出どころ（A.7.5）」を明確にし、様々な工場の照明環境で撮影されたデータを幅広く取得します（A.7.3）。さらに、画像からノイズを消す「データの前処理（A.7.6）」を行う際、微細なキズまで消してしまわないよう慎重にルールを決め、キズの種類に偏りがないかデータ品質（A.7.4）を厳格にチェックしました。これにより、「質の悪いデータによるAIの精度低下」というリスクを事前に大きく減らすことができました。
次に、「顧客のAI過信」というリスクを下げるために「A.8 情報提供」の管理策を使います。 どんなにA.7でデータを管理しても、AIに100%完璧はありません。そこでメーカーは、顧客に対して「このAIはこういう照明環境で正しく動きますが、このような微細なキズは判定が難しい場合があります」という制約やAIの限界を正直に書いた取扱説明書のようなものを提供（A.8.2）します。 さらに、「もし少しでもAIの判定に違和感があれば、すぐに開発チームに連絡してください」という報告窓口を設置（A.8.3）し、万が一、この装置に不具合が見つかった場合の連絡ルートも事前に共有（A.8.4）しておきました。これにより、「顧客がAIの限界を知らずに誤用する」というリスクを、より確実に低減できるというわけですね。
まとめ
今日のポイントを一言で言うと、「データの品質をしっかり管理し（A.7）、利用者にはAIの限界や制約をオープンに伝えておく（A.8）ことがリスク管理になる」ということですね。トラブルが起きてから対処するのではなく、起きないようにデータを整え、コミュニケーションの仕組みを作っておく。これこそが管理策の本当の役割だということがおわかりいただけたかと思います。