おはようございます！マネジメントオフィスいまむらの今村敦剛です。
ISO42001各箇条解説シリーズ、今回は附属書Aの中から、「A.6 AIシステムライフサイクル」の解説をお届けします。「ライフサイクルを通じたリスク低減がどのように実現できるか」を、おわかりいただけると思います。
AIシステムのライフサイクルとは何か
そもそもAIシステムのライフサイクルとはどういうものでしょうか。AIシステムは「作って終わり」ではなく、企画から運用まで、責任を持って管理し続ける必要があります。 この一連の流れを「AIシステムのライフサイクル」と呼びます。
順を追って説明します。
まずはAIシステムを作る準備の段階です。ここには２つのステップがあります。1つめは「企画・設計」です。 いきなりプログラムを書くのではなく、「このAIは何のために使うのか？」という目的をしっかり決めます。そして、このAIが人や社会に悪い影響（例えば差別や事故など）を与えないかを、事前にしっかり評価します。
2つめのステップは「開発・データ準備」です。 AIが正確に作業できるようデータを集めて、学習させます。ここで大事なのは、集めたデータに「偏り（バイアス）」がないようにすることです。偏ったデータで育つと、事故や差別の原因になってしまいますからね
続いて、AIシステムを運用し、チェックする段階です。これも２つのステップがあります。３つ目のステップは「テスト・検証」です。 AIを運用する前に、実際の場面で正しく動くか、差別的な判断をしないかを厳しくテストします。次のステップは「運用・監視」です。実運用するときにも、AIが意図した通りに動いているかを常に監視して、状況に応じて改善し続ける必要があります。
そしてもし問題が見つかったら、前のステップに戻って、データを入れ替えたり、設計を見直したりして、直し続けることが必要です。こういうサイクルを回し続けることが、AIシステムライフサイクルです。
ISO42001 管理策A.6.1 AIシステム開発のための管理ガイダンス
では、このライフサイクルを通じて、AIシステムのリスクを低減する具体的な管理策を説明します。まず管理策A.6.1 AIシステム開発のための管理ガイダンスです。
1つ目は「A.6.1.2 責任ある開発の目的」です。 AIを作る前に、「安全性」や「公平性」といった、守るべき目的をはっきり決めて文書化します。
2つ目は「A.6.1.3 責任ある設計・開発プロセス」です。 1つ目で決めた目的を達成するために、どういう手順で作るか、いつ人間がチェックするかといった「作り方の具体的なルール」を定めます。
ISO42001 管理策A.6.2 AIシステムライフサイクル
続いて、管理策A.6.2の「AIシステムライフサイクル」について説明します。
1つ目は「A.6.2.2 AIシステムの要求事項と仕様」です。 このAIは何をするためのものか、どんな条件を満たすべきかを明確にします。
2つ目は「A.6.2.3 設計・開発の文書化」です。 どんな設計図で作ったか、どんな判断でそのAIの仕組みを選んだかを記録に残します。
3つ目は「A.6.2.4 検証と妥当性確認」です。 世に出す前に、本当に安全で正しく動くかどうか、基準を作ってしっかりテスト（検証）します。
4つ目は「A.6.2.5 導入」です。 テストに合格したAIを、いよいよ本番環境に出す（リリースする）ための計画を立てて実行します。
5つ目は「A.6.2.6 運用と監視」です。 世に出したら終わりではありません。ちゃんと動いているか監視して、おかしくなったら修理したりアップデートしたりする手順を決めます。
6つ目は「A.6.2.7 技術文書」です。 使う人や関係者に向けて、このAIは何ができて、何ができないのかを書いた取扱説明書のようなものを提供します。
7つ目は「A.6.2.8 イベントログの記録」です。 AIがいつ、どんな動きをしたかという「ログ」を自動で記録します。何かトラブルが起きた時に、後から原因を調べられるようにするためですね。
附属書A6管理策の実践例
これらの管理策が、どのようにリスク対応に役立つか、例を見てみましょう。あるメーカーが、自動で荷物を運ぶ「自律型フォークリフトAI」を開発したとします。
この開発会社はシステムのリリース前に、まず「A.6 AIシステムライフサイクル」の管理策を実行し、安全な開発と運用を計画しました。 具体的には「A.6.1.2 責任ある開発目標」として「安全性」を最優先に掲げました。そして「A.6.2.2 要件と仕様」で「2m以内に障害物があれば必ず停止する」と定めました。 そして「A.6.2.4 検証と妥当性確認」として、テスト用の倉庫で入念に安全テストを行い、クリアした上で工場に展開し、稼働をスタートさせました。 さらに、「A.6.2.6 運用と監視」や「A.6.2.8 イベントログの記録」の仕組みも導入し、日々のフォークリフトの動きやヒヤリハットを細かく記録しました。このようにすると、リスクも減って、より安全な装置なっていくわけですね。
まとめ
はい、というわけで、管理策A.6について解説しましたがいかがだったでしょうか。今日のポイントを一言で言うと「AIの企画から運用までの全ステップのルールを決め、記録を残しながら管理する」ということですね。これによって、問題が起きる可能性を下げるとともに、万が一起きたときに被害を最小限に食い止めることができる、ということですね。