おはようございます！マネジメントオフィスいまむらの今村敦剛です。
EUのAI規制法案である"EU AI Act"に関して、1/22時点での最新情報を、かいつまんでお伝えします（情報源は、The EU AI Act Newsletter #44です）。12月8日に法案が暫定合意されましたが、まだまだ議論があるようです。
顔認識技術に関する議論
POLITICO（政治に特化したアメリカ合衆国のニュースメディア）のジャン・ボルピチェッリ氏は、12月初旬に初期合意されたAI法では、警察等の法執行機関が司法の承認を得ずに、録画されたビデオで顔認識技術を使用できるように変更されたことを報告しました。
ドイツの欧州議会議員スベンヤ・ハーンは、この変更を「これは市民権への攻撃だ。生体認証技術の潜在的な濫用であり、中国のような権威主義国家のやり方に似ている」と批判しました。スベンヤ・ハーン氏によると、12月22日に最終決定されたこの変更は、顔認識の使用に厳しい条件と司法監督を課すとした元々の合意から逸脱していると主張しています。ハーン氏は、録画された映像に対処する顔認識技術についての懸念を強調しましたが、これは大部分が禁止されるリアルタイムの公共空間監視とは対照的です。
一部の人々、例えば議会の主導交渉者であるドラゴシュ・トゥドラケ氏は、この変更に賛同していますが、他の人々（例えばドイツの海賊党のパトリック・ブライヤー氏やデジタル権利団体の代表者など）は、ハーンの批判に共感しています。
EU各国政府は1月24日に最終文書を検討し、2月2日の承認を目指し、その後、議会投票が行われます。潜在的な修正は追加の立法作業を必要とします。
オランダにおけるAIの監督計画
オランダのデータ保護機関（AP）は、「AIとアルゴリズムのリスクに関する報告書」の中で、企業、政府、学術界、NGOといった様々な団体が協力して、2030年までに効果的なAIとアルゴリズムの使用を管理することを目指す総合的な計画を公開しました。
この計画には、年間の目標やルールに加え、EU AI法も含まれています。2025年から有効になるAI法では、基礎モデルとAI開発者を監視して、ディスインフォメーション（虚偽の情報）、操作、差別などが起きないように対処します。
オランダでは、2023年12月に合意されたEU AI法に基づいて、市場を監督をする準備をしていますが、AIとアルゴリズムの効果的な管理は行政的な監督だけでは限界があります。安全安心なAIの使用のためには、企業や組織内で自らがリスク管理し、内部統制することが必要です。オランダのデータ保護機関（AP）の議長であるアレイド・ウルフセン氏は、社会でAIとアルゴリズムがより多く使用されるほど、事故が発生することが多くなると指摘します。特にオランダの組織の75％が労務管理にAIを使用する予定であることを踏まえて、すぐさまリスク管理すべきという必要性を強調しています。
ウルフセン氏は、AIに対する信頼を維持し、基本的な権利を保護するために、強固な監督と規制が必要であることを強調しています。
EU AI法における基礎モデルの規制について
AIの「基礎モデル」とは、大量のデータを使って学習する大規模な人工知能モデルのことを指します。たとえば、言語処理の基礎モデルは、ウェブ上の大量のテキストデータから学習し、様々な言語タスク（テキスト生成、翻訳、要約など）に適用できます。有名なChatGPTは、このような基礎モデルの一例です。
この基礎モデルについて、MIAIグルノーブル・アルプス（人工知能に関する研究所）の研究員であるコーネリア・クッテラー氏がある記事を書きました。
クッテラー氏は、EUのAI法案において「システム上のリスク」が重要な概念として取り扱われていることを支持しています。「システム上のリスク」とは、AIモデルが広範囲の社会的、経済的、技術的影響を及ぼす潜在的なリスクのことです。従来のAIに関する法律や規制では、プライバシーの侵害、データの誤用、個人への差別的な影響といった特定のリスクや問題点に焦点を当てていました。しかし、AI技術の進歩と普及に伴い、これらのリスクだけでなく、より大きな規模での社会やシステム全体に影響を及ぼす可能性のある新しい種類のリスクが出てきました。そうした新しいリスクのことを「システム上のリスク」といい、EUのAI法案に盛り込まれています。具体的には、社会的、経済的、あるいは政治的な安定性に影響を与えるリスクや、大規模なデータ流出やセキュリティ違反のリスク、公共の安全に対するリスクなどが含まれる可能性があります。
クッテラー氏は、EUのAI法案が「システム上のリスク」を適切に取り扱い、管理するための新しいカテゴリーを導入し、AIの進化に伴う新しいタイプのリスクに対応するための措置として、これらのリスクを効果的に管理することの重要性を強調しています。