おはようございます！マネジメントオフィスいまむらの今村敦剛です。
ISO42001各箇条解説シリーズ、今回は箇条6.3「変更の計画」について解説をします。ISO規格における「変更」についての考え方は誤解が多いポイントなので、わかりやすく解説していきます。
動画でも解説しています（無料・登録不要）
ISO42001:2023 箇条6.3の位置づけ
まず、今日説明する箇条6.3の位置づけについて解説しましょう。箇条6.3は箇条6「計画」に位置づけられています。AIを使ったサービスの開発や利活用に関して、なにか大きな変更をするときに、計画を立てて進めることを求めています。
ISO42001:2023 箇条6.3の要求事項
箇条6.3の要求事項はたった一つです。AIMSを変更する場合は計画的に変更しなさい、というものですが、これはどういうことでしょうか。
AIマネジメントシステムの変更というのが、「何であるか」と「何でないか」をシンプルに分けて説明したいと思います。
まず「何であるか」というと、それは「ルールや仕組みを“恒常的に”変えること」ですね。たとえば、手順や基準を変える、責任や権限の持ち方を変える、承認の流れを作り直す、新しい工程や設備を入れて運用の型を変える――というような“これからも続ける前提の変更”を指します。AIの利活用に関する例をあげると、新製品のリリースに合わせて、AIマネジメントシステムの適用範囲を見直すとか、組織変更により、担当の責任・権限を見直すとか、アウトプットのバイアス判定基準を見直すとか、データ処理手順そのものを変えるというようなものですね。
次に、AIマネジメントシステムの変更が「何でないか」です。現状のルールの範囲でできる変更や、一時的な変更というのは、AIマネジメントシステムの変更には該当しませんね。恒常的に仕組みを変えるわけではないからですね。具体的には、UIのちょっとした変更などの、製品の軽微な仕様変更ですね。また人事異動で担当が入れ替わっても、役割や責任の中身が同じなら、仕組みは変わっていないと言えるでしょうね。さらには、既存のバイアス判定“基準の範囲内”での微調整とか、既存手順の中でデータを追加・更新するだけの作業というのは、仕組み自体を動かさないので、これは箇条6.3の対象外とみなしても基本的には良いと思います。
変更を計画的に進めるとはどういうことか
では、こうした変更を計画的に進める、というのは具体的にはどういうことなのでしょうか。そのひとつの例をお見せしたいと思います。
最初は、何のために変えるか、という目的をはっきりさせることです。例えば、AIMSの変更だと、学習データ前処理に時間がかかっているので、時短をしたい、そのためにデータ前処理手順や基準を変える、という目的を明確にします。これが出発点になります。
次に変更の影響を調べることですね。前処理の手順や基準を変えるとどんな良いことや悪いことが起きるかを先に考えます。悪い例としては、前処理が甘くなって、個人情報の消し忘れが増えてしまって、プライバシー上の問題が起こるかもしれない、というようなことですね。
3つ目は悪影響が出ないよう準備する。ことです。プライバシー上の問題が起きないように、手順書を直し、検証環境を用意し、関係者に教育・訓練もしておく、というような具合です。もちろんトラブルが出たらロールバックする条件なども決めておきます。
4つ目は関係者への周知です。いつから・何が・どう変わるかを、経営者や関係部署、必要なら取引先にも伝えますし、問い合わせ先もはっきりさせます。
5つ目。変更を段階的に進める。いきなり全体ではなく、小さく始めて問題がないかを見ます。カナリアリリースもこれに含まれるかもしれません。
6つ目です。影響を見守ります。例えば、処理時間は本当に短くなったか、個人情報に関するアラート件数は増えていないかといったことを監視・測定し、あらかじめ決めた基準を超えたら、止めるか戻すかを判断します。
最後は振り返りです。うまくいった点、出てしまった副作用などを洗い出します。そして途中で問題が生じたのであれば是正もします。もちろん次に生かすために記録なども必要でしょう。
こうした手続を踏んで、大きな変更をするというのが、ここでいう「計画的にAIMSを変更する」ということです。もちろん、変更の内容や、変更によって起こり得るリスクの大きさによっても、何をどこまで入念にやるかというのは変わってくるでしょう。リスクの大きな変更はより入念に、そうでない変更はそれなりに、といった考え方も必要でしょうね。
なお、ISO42001では、この他、箇条8.1でも「変更」という考え方がでてきます。そちらはどちらかというと、現状のルール内での変更や一時的な変更のことを指しています。いろんなところに「変更」という言葉がでてきますが、その違いをしっかり押さえていただきたいと思います。