AI事業者ガイドラインの全体像を理解する程度にざっと読む(後編)

おはようございます！マネジメントオフィスいまむらの今村敦剛です。

遅まきながら、昨年公開された「AI事業者ガイドライン」をざっと読んでいきたいと思います。最終回の今回は、第３部～第５部を要約していきます。

前編・中編はこちら

AI事業者ガイドラインはこちら

この記事を執筆時点(2025年1月)では、第1.01版が公開されています。

第３部 AI開発者に関する事項

ここでは、AI開発者が果たすべき重要な役割と責任（主に設計・開発段階）を示し、開発プロセス全体でリスク管理、倫理的考慮、透明性、セキュリティ確保を徹底することを求めています。

AI開発者がAIシステム全体に与える影響力の大きさを考慮し、社会的責任と倫理的課題に対応する重要性が強調されています。具体的には、データ前処理から学習、開発、提供後に至るまでの全プロセスで、リスク管理や倫理基準の徹底を求めています。

特に、データの偏りを防ぐための管理、安全性や透明性を確保するためのセキュリティ設計、予測不可能な利用によるリスクを最小化する仕組みが重要視されています。

また、学習データやアルゴリズムに含まれるバイアスへの配慮、AIシステムの性能維持・向上のための記録と検証、最新技術動向への対応も求められます。さらに、透明性向上のための情報提供、トレーサビリティ確保、国際規格や技術標準への対応が必要です。

また高度なAI開発者は、社会課題解決やイノベーションの促進に貢献し、気候変動やセキュリティリスクへの研究投資、責任ある情報共有も重視するべきとされています。

第４部 AI提供者に関する事項

第4部は、AI提供者がAIシステムを適切に実装し、利用者や社会に安全で公平なサービスを提供するための責任と行動指針を示しています。（主に実装・運用段階、利用者との接点での責任等）

AI提供者は、AI開発者の設計したAIシステムを基に付加価値を加え、AI利用者へ提供する重要な役割を担います。この役割において、AI提供者は社会的影響の大きさを考慮し、安全性や公平性、プライバシー保護、セキュリティの確保に努める必要があります。

AIシステムの実装時には、データやAIモデルに含まれるバイアスをモニタリングし、利用者環境との適合性を確認しつつ、リスクを最小限に抑える仕組みを整えます。

また、AI提供後も運用状況を定期的に検証し、プライバシー侵害や脆弱性に対応するなど継続的な安全性確保が求められます。

さらに、AIの透明性と説明責任を果たすために、利用者への情報提供や文書化を行い、共通の指針を遵守します。高度なAIシステムでは特に、信頼性や国際規範への対応が重視されます。

第５部 AI利⽤者に関する事項

ここでは、AI利用者がAI提供者からのシステムを安全かつ適正に利用し、説明責任を果たしながらAIの恩恵を最大限に活用するための責任と行動指針を示しています。（主に利用段階での責任等）

AI利用者は、提供者から受け取ったAIシステム・サービスを適切に活用し、業務効率化や創造性向上などAIの恩恵を享受することが求められます。利用時には、AI提供者の設計範囲内で使用し、データの正確性や公平性に配慮し、個人情報や機密情報の不適切な入力を避ける必要があります。また、AI出力に基づく判断には人間の介在を行い、リスクの検証と合理的な利用を徹底することが重要です。

AI利用者は、関連するステークホルダーに対してAIの特性や利用状況を説明し、透明性と公平性を確保しつつ、必要に応じて問い合わせに対応する窓口を設置することが重要です。説明責任を果たすために提供された文書を適切に保管・活用し、規約を遵守することも求められます。特に高度なAIシステムを利用する場合には、「高度なAIシステムに関係する事業者に共通の指針」を適切に遵守することが期待されます。