おはようございます！マネジメントオフィスいまむらの今村敦剛です。
EUのAI規制法案である"EU AI Act"に関して、7/11時点での最新情報を、かいつまんでお伝えします。（情報源は、The EU AI Act Newsletter #33です）
新しいEU理事会議長国（スペイン）による今後の議論のポイント
2023年下半期から、スペインがEU理事会の議長国になりました。EU理事会の議長国の役割は、立法業務を推進するために、議会や委員会、そして加盟国間の調整を行うことです。スペインが議長国になったことから、EU AI Actに関する諸調整も、スペインが音頭を取ることになります。
EU AI Actに関しても、さっそくスペイン主導でも調整が始まったようです。スペインは、下記の4点を含む、AI法案の重要なポイントについての文書を配布したそうです。
- AIの定義
- 高リスクとみなされる分野
- 高リスクの事例リスト
- 基本的な権利への影響評価
法案におけるAIの定義は、これまでも議会の修正案を受けて見直されてきましたが、今のところ法案上の定義はかなり広い定義というか、様々なシステムがAIだと解釈できそうな書きっぷりになっています。これがもう少し具体化されるのかもしれません。
EU AI Actは、AIの種類に応じて、4つのカテゴリーにリスクレベルを分けています（「許容できないリスク」「高リスク」「限定的なリスク」「低リスクまたは最小リスク」の4つ）。このうち「高リスク」は、附属書(Annex)Ⅱや附属書(Annex)Ⅲで、該当分野が示されていますが（例えば、他のEU指令や規則で規制されている製品や部品に関連するものや、生体識別AIシステム、重要なインフラで使われるAIシステムなど）、この分野についても何らかの見直しが行われるようです。
スペインが配布した文書では、「デプロイヤー」という用語を導入すべきかどうかも検討に上がっているようです。元々の法案では「ユーザー」という言葉が使われてましたが、議会による修正案で「デプロイヤー」という表現に変わりました。デプロイヤーとは、AIサービスのプロバイダー（例えばChatGPTやMidjourney)の技術の利用者のことを指します。「ユーザー」や「デプロイヤー」がどういう人を具体的に指すのかも、いまのところはまだ具体的にはなっていませんが、これがもう少し具体的になるのかもしれません。
AIサンドボックスについての検討
「サンドボックス」とは、子供が遊ぶ砂場のことを指す言葉です。でもITの世界では、ちょっと違う意味があります。IT分野における「サンドボックス」とは、新しいプログラムやアプリを安全に試すことができる特別な環境のことを言います。もし新しいプログラムに問題があっても、隔離されたような特別な場所で試験を行っているのであれば、それが他のコンピュータやネットワークに影響を及ぼすことはありませんよね。このように「サンドボックス」は新しい技術やアイデアを安全に試すための大切な場所であり、今後の技術革新の上では欠かせない場所のことを言います。
欧州議会は、EUの各加盟国がAIサンドボックスを設立することを義務付けています。EU AI Actにおいて、AIは規制対象である一方で、技術革新を果たす上で保護すべきものでもあるからですね。この「サンドボックス」の進め方については、議会と理事会とでいろいろな議論があり、どういう進め方をするのがよいのか、今後も検討を重ねる必要があります。（どういうテスト環境にするのかとか、競争に悪影響を及ぼさないやり方はどうすればいいのか等）
EU内でアルゴリズムの技術専門知識を持つ機関の設立
次回の議長国であるベルギーは、EU内でアルゴリズムの技術専門知識を持つ機関を準備する検討をしているようです。アルゴリズムというのは、コンピューターが何かを実行する際に、どのような手順を踏むべきかを決めた仕組みのことです。例えば「対話型AI」と一言にいっても、ChatGPTとBINGとではアルゴリズムが異なるので、同じことを聞いても回答内容が異なります。こうしたアルゴリズムが、知らず知らずのうちに人の権利を侵害したり、差別を助長することのないよう、客観的に分析するための機関を設けるということのようです。
ただ、新しい機関を設立するのではなく、既にEUデジタルサービス法のもとで運用されている「欧州アルゴリズム透明性センター(ECAT)」の強化を、ベルギーは考えているようです。ベルギーは他のEU加盟国と、このアルゴリズ確認機関について話し合い、2024年1月に議長国を務める時に、この議題を優先的に進めることを目指しているようです。
EU AI Actに関する最終討論会（トリローグ）について
今後、欧州委員会、理事会、欧州議会の間で、EU AI Act法案に関する最終討論会（トリローグ）が行われる予定です。いまのところ2023年末までにAI Actが可決されるように進んでいますので(2024年には欧州議会選挙があるので、それまでに終わらせたいようです）、最終討論会も近いうちに行われると思います。
この最終討論会（トリローグ）に向けて、様々な団体が意見を表明しています（例えば前述のAIの定義や、高リスクの分野などについての意見）。企業や実業家からは法案に対する批判の声もあります。こうした意見や声が、どの程度最終討論会での議論に反映されるかはわかりませんが、当事者の声を踏まえた法案に変わっていく可能性があります。
企業(google)によるEU AI Act対策について
またCNBCが報じていますが、GoogleがAI規制導入について、EUの規制当局と話し合いをしているとのことです。Googleのように、規制対象となりうる大手の企業は、早くも対策を講じ始めているようです。AIを取り巻く問題の一つに、人間が作ったコンテンツとAIが作ったコンテンツの区別がつきにくいという問題ながあります。これはEUも懸念をしている問題点ですが、GoogleはAIが作った画像にラベルを付ける「ウォーターマーキング」ソリューションを発表し、人間とAIが生成したコンテンツを区別できるような技術の開発に取り組んでいます。
このように、EU AI Actが発効されるよりも前に、民間が主導する形で、AIに対するリスクを低減する技術の導入が進んでいくのかもしれません。