おはようございます！マネジメントオフィスいまむらの今村敦剛です、。
ISO42001各箇条解説シリーズ、今回は箇条7.3「認識」について解説をします。AIを利活用するスキルや知識は重要ですが、それだけでAIに関する品質や公平性、安全性などが担保されるわけではありません。AIに関わる人々が、何をやるべきか、何をやってはいけないのかという認識を持つことが重要です。今日、この動画をご覧いただくと、AIの利活用において、なぜ認識が必要か、どんな認識を持つ必要があるかを、理解することができます。具体例を使って解説をしていきたいと思います。
動画でも解説しています（無料・登録不要）
ISO42001 箇条7.３の位置づけ
まず、今日説明する箇条7.３の位置づけについて解説しましょう。箇条7.3は箇条7「支援」に位置づけられています。この箇条は、仕事でAIを使うすべての人に対して、自分は何をするべきか、何をしてはいけないか、認識を持つことを求めています。
ISO42001 箇条7.3の要求事項＆なぜ認識が重要か
箇条7.3の要求事項は1つです。AIを使った製品の開発をする人や、AIを業務で利用する人に対して、何をすべきか、何をしてはいけないのかという認識を持つことを求めています。具体的には３つのことについての認識を持つことを求めているのですが、まずはなぜAIの利活用において「認識」が重要なのかを見ておきましょう。
例えば、料理をするときに、それが初めて作る料理であれば、レシピを見ながら料理をすることが一般的だと思います。そして、レシピ通りに材料を図って、火加減や順番などを守って料理するのが基本ですよね。そうした順番や指示を守られなければ、味が変になるかもしれませんし、生焼けでお腹を壊したりするかもしれません。というわけで、料理をするうえでは、包丁や計りが正しく使えるというスキルが必要であるのは当然ですが、その上で自分が何をすべきか、何をしてはいけないのかを知っているということが、安全や品質を決めるんですね。
これはAIを使って仕事をすることでも同じです。生成AIを仕事に使うことは、確かに便利ですが、AIはウソをつくかも知れないということや、最新でない情報を出すことがあります。ですので私達は、AIの答えをうのみにせず、人間による裏とりが必要だ、ということを知っておかなければなりません。これを知らないと、自分の信用を落とすかもしれません。いくらプロンプトを上手に作れても、AIは間違えることがあるということを知らなければ、問題を引き起こしてしまう可能性があります。ですので、認識が重要だということです。
規格が求める「認識」の対象
では、規格では、何についての認識を持つようにしなさいと言っているのでしょうか。規格が求めているのは3つあります。
一つはAI方針です。AI方針とは、我が社におけるAIの使い方についての大まかな方向性でしたよね。これは、仕事をするうえで私たちが「守るべきこと」ですので、知らないとまずいことになるかもしれませんよね。この方針に合っているかを確認しながら仕事を進めることになりますが、方針がちゃんと認識されているからこそ、「方針とズレてるかも？」ということを察知できるようになり、軌道修正や上長への報告・相談などができるようになります。
２つ目は、AIパフォーマンスの向上により得られる便益を含むAIマネジメントシステムの有効性への自らの貢献です。AIが“狙いどおり・安全に”動くためには、自分は何をしなければならないか、何をしてはならないかということを知っている、ということですね。その結果、AIの性能などがアップしたら、品質が安定するとか、安全性が上がるとか、仕事が効率的になる、といった、得られるメリットにもついても知っている、ということです。
最後は、AIマネジメントシステムの要求事項に適合しない場合の影響です。このISO42001の規格はもちろんですが、顧客の要求やAIに関する法律・ガイドラインを守らなかったときに、どういうことになるかというリスクを理解している、ということですね。
なお、ISOの基本はプロセスアプローチ(プロセスごとに管理をすること)ですので、こうした「認識」を持つことに対して、組織としていつ、誰が、何をつかって、どうこれらのことを周知して、認識が組織に浸透しているかをどう確認するかということをあらかじめ決めて、実行することが望ましいでしょう。
今日のまとめとしては、仕組みを作って、その中で3つの項目について、人々の認識を高める、ということですね。人間は、一度聞いただけでは認識を正しく持つことはできませんので、繰り返し、時には経験を通じて、そのような認識を高めていく必要がありそうです。