おはようございます！マネジメントオフィスいまむらの今村敦剛です。
今回は「ISO 42001（AIマネジメントシステム）って何？」をテーマに、概要を超簡単に解説します。AIの管理って難しそうな気がしませんか？この記事を見れば、ISO 42001がどういう規格なのかはもちろん、AIにまつわるリスクや、信頼性と責任についても5分程度でサクッと学べます。
動画でも解説しています（無料・登録不要）
ISO42001とはどのような規格なのか
ISO42001とはどのような規格なのでしょうか。一言でいうと「AIを開発・提供・利用する上での信頼性を高め、社会的・倫理的責任を果たすための管理の仕組みのこと」です。この規格が重視しているのは「信頼性」と「責任」ですが、信頼性とはセキュリティ・安全性・公平性・透明性・品質などが高いことを意味します。また責任とは、正しく動作する責任・説明責任・法を守る責任などを人が持つことを意味しています。
なぜAIの管理に信頼性と責任が重要なのか
なぜAIの管理に信頼性と責任が重要なのでしょうか？
それは、AIが誤った判断をするリスクがあり、それが人の健康や権利に悪影響を及ぼすからです。例えば、自動車の自動運転AIが「止まれ」の標識を正しく認識できない場合、交通事故を引き起こす危険があります。
また、AIの判断がブラックボックス化していると、なぜその判断をしたのかという理由を説明するのが難しいことがあります。さらに、AIが偏見や不公平を助長する恐れもあります。例えば、自動車の自動運転AIが、都市部の交通事情を中心に学習した場合、地方ではAIが適切に動作しないという不公平が生じる可能性があります。
このようなことが起きないよう、信頼性を高めて、その判断や判断結果に人が責任を持つことが必要なんですね。
ISO42001はどのような管理の仕組みなのか
ISO42001は、具体的にはどのような管理の仕組みなのでしょうか。自動車の自動運転AIを開発する企業を例にして説明したいと思います。
ISO42001にそった仕組みではまず、組織の状況について調べます。組織の状況というのは、例えば政府が、信頼性あるAIシステム開発のガイドラインを公表しているなど、AIを取り巻く状況や関係者の期待などを分析することです。そうした期待などに応えるために、トップが「よし！うちのAIは、信頼性が高くて責任が果たせるAIにするぞ！」という方針を明確にします。
社長の方針のもと、まず、どういうことが我が社のAIの信頼性を損なうかを調べます。調べた結果、「悪天候時のデータが不足していて、道路標識を誤認識しそう」というリスクがあることが判明しました。じゃあ、そのリスクをなくすために何をしようかと検討した結果、テスト施設を利用してデータを収集しようという対策を決めました。そしてテスト施設を借りる手配をしたり、データを正しく収集するための訓練などもすることにしました。そして誤認識率0.01％以下という目標も作りました。
そうして計画・準備をした後は、決めた通りにテスト施設を使ってデータを集め、それをAIに学習させ、認識精度を高めていきます。場合によっては、雨天時に実際の道路をテスト走行もします。
そして、決めたとおりに作業ができているか、順調に進んでいるかを現場で確認します。また、目標として立てた誤認識率がどうなったのかも確認します。うれしいことに、目標を達成していました。こうした結果は、トップにも報告をし、指示を仰ぎます。ただ、開発現場の声を聞くと、ゲリラ豪雨のときには認識率が大きくばらつくことがわかったので、データやアルゴリズムに修正や改善を加えます。
これで、認識率については、だいたいの対策ができました。認識率が高まったのでめでたしめでたし……ではありません。顧客からは「今度は外国の道路標識にも対応してほしい」という新しい要望がきました。というわけで、その要望に応えるために、また計画や準備をして、改善をすることになります。こうした改善を繰り返していき、信頼性を高めることが、ISO42001の管理の仕組み、というわけですね。
企業がISO42001に取り組むメリット
企業がISO 42001に取り組むメリットは何でしょうか。
まずユーザーや社会の信頼を得られる点が挙げられます。不適切な動作や不公平さを防ぐ仕組みを整えることで、AIが安心して利用できるものとなり、信頼性が向上します。
次に、規制やガイドラインへの対応がスムーズになる点があります。ISO 42001のリスク評価や透明性確保の仕組みは、EUのAI規制法や日本のガイドラインの要件を満たす基盤になります。
そして、信頼性や責任を果たすことが継続的に改善されることによって、他社との差別化やブランド価値の向上が可能となり、競争優位性を確保できるでしょう。
はい、というわけでISO42001の概要をサクッと解説しましたがいかがだったでしょうか。この記事のポイントは、まず「ISO 42001はAIの信頼性を高め、人が責任を果たすための管理の仕組みだ」ということでしたね。そしてISO 42001に取り組むことで、ユーザーや社会の信頼を得られる、というお話でした。超基礎編の解説でしたが、ISO42001の全体像と意義がぐっとわかりやすくなったと思います。今後もISO 42001に関する情報を発信していきますので、ご期待ください！