AI事業者ガイドラインの全体像を理解する程度にざっと読む(中編)

おはようございます！マネジメントオフィスいまむらの今村敦剛です。

遅まきながら、昨年公開された「AI事業者ガイドライン」をざっと読んでいきたいと思います。今回は中編として、第２部のC～Eを要約していきます。

前編はこちら

AI事業者ガイドラインはこちら

この記事を執筆時点(2025年1月)では、第1.01版が公開されています。

第２部 AI により⽬指すべき社会及び各主体が取り組む事項（C.共通の指針）

この「共通の指針」は、AIシステムやサービスの開発・提供・利用を行う全ての事業者が、基本理念を守るために行う、「原則」よりももっと具体的な行動を定めています。全部で10項目の分野で、具体的な行動が示されていますが、この記事ではそれぞれの項目の要約を示します。

1) 人間中心
AIシステムが人権を侵害せず、個人の尊厳や自律を尊重することを求める。また、AIが能力拡張や多様な幸福の追求を支援する役割を果たすべき。

2) 安全性
AIの出力が人命や財産、環境に危害を及ぼさないことを求める。リスク分析やモニタリングを通じ、安全性を確保する対策が重要。

3) 公平性
AIが人種、性別、宗教などの偏見を助長せず、不当な差別を避けることを求める。人間の判断を介在させ、バイアスへの対応を強調しています。

4) プライバシー保護
個人情報保護法などを遵守し、AIシステム利用に伴うプライバシー侵害を防止することを求める。

5) セキュリティ確保
AIが不正操作や外部攻撃に対して脆弱にならないよう、セキュリティを確保し、適切な対策を講じることを求める。

6) 透明性
AIシステムの仕組みやデータ利用の経緯、その判断がなされた理由等を検証可能にし、ステークホルダーに適切な情報を提供して説明責任を果たすことを求める。

7) アカウンタビリティ
AIシステムの開発や利用におけるリスク、トレーサビリティ等を、ステークホルダーに対して説明責任を果たすことを求める。

8) 教育・リテラシー
AIに関わるすべての人がAIを正しく理解し利用できるよう、教育やリテラシー向上を促進することを求める。

9) 公正競争確保
新たなビジネスやサービスを生み出し、社会課題を解決するために、公正な競争環境の維持が求められます。

10) イノベーション
AIを活用したイノベーションを促進し、相互運用性やオープンイノベーションを推進することで、社会全体に貢献することを求める。

第２部 AI により⽬指すべき社会及び各主体が取り組む事項（D. ⾼度なAI システムに関係する事業者に共通の指針）

高度なAIシステムに関わる事業者が、AIライフサイクル全体でリスクを軽減し、安全性・透明性・アカウンタビリティを確保しつつ、責任ある開発・利用を行うための具体的な指針を示しています。

なお、「高度なAIシステム」の当ガイドライン上の定義は「最先端の基盤モデル及び⽣成AI システムを含む、最も⾼度なAI システムを指す。」です。例えば直近では生成AIが含まれるほか、将来にわたって開発される新しいAIシステムもこの定義の対象となります。

この指針では、最先端の生成AIや基盤モデルを含むAIシステムの開発・提供・利用において、リスク軽減、安全性、透明性、アカウンタビリティを確保する取り組みが求められます。具体的には、AIのライフサイクル全体でのリスク評価・緩和、インシデントの報告や情報共有、プライバシー保護、データの透明性確保、電⼦透かし技術などを通じた信頼性の向上が含まれます。また、国際的な技術規格への対応や社会的課題（気候危機、教育など）への貢献、リテラシー向上も推奨されています。

この内容はISO42001の各規格要求事項や管理策などの具体的な実行方法としても参考になる内容だと思います。

第２部 AI により⽬指すべき社会及び各主体が取り組む事項（E. AI ガバナンスの構築）

共通の指針（C）と高度なAIシステムの指針（D）は、AIシステムの開発・提供・利用を行う主体が取るべき具体的な行動を定めたものでした。このEは、指針に基づく取り組みを進めるための管理体制の構築について求めています。例えばCとDは、個々のシステムや現場管理のことを述べていて、Eは組織や全体レベルでの管理のことを述べている、と理解すれば良いと思います。

「AIガバナンスの構築」では、AIのリスクを管理しつつ、最大限の便益を引き出すために、各主体が連携してアジャイル・ガバナンスを実践することを求めています。具体的には、環境・リスク分析、ゴール設定、システム設計、運用、評価のサイクルを高速かつ継続的に回し、外部環境の変化にも柔軟に対応することが重要です。また、バリューチェーン全体を考慮し、データ流通やリスク管理を明確化しつつ、リーダーシップのもとでガバナンスを組織の文化として定着させることが期待されています。短期的な利益ではなく、中長期的な発展を見据えた投資としてガバナンスを位置づけることで、持続可能な成長と社会課題の解決を目指します。

このあたりは、ISO42001に基づくマネジメントシステムの構築と似たようなことを言っているように思えますね。