おはようございます！マネジメントオフィスいまむらの今村敦剛です。
EUのAI規制法である”EU AI Act”に関して、9/1時点での最新情報を、かいつまんでお伝えします。（情報源は、The EU AI Act Newsletter #85です）。
ポーランドはAI法の「市場監視当局」をまだ指定していない
法専門家のマリア・ディミトルクは、ポーランドがAI法に基づく市場監視当局（ルール順守を監督する機関）をまだ決めていないため、EUの「違反手続き」が始まるおそれがあると警告しています。AI法は2024年8月1日に発効し、段階的に義務の開始時期が決まっています。ポーランドの国営通信PAPによれば、全加盟国は2025年8月2日までに、指定した監視機関をEU（ブリュッセル）へ通知する必要がありました。
当局が未指定でも、ディミトルクは「ポーランド企業は、適用される範囲ではすでにAI法を守らなければならず、違反は罰せられる」と強調します。この“空白期間”のせいで、「まだ義務は始まっていない」と勘違いする人が出る不安もある、と指摘します。
一方、副首相でデジタル担当相のクシシュトフ・ガフコフスキは、EUが直ちに行動するリスクを小さく見積もり、ポーランドは実施のスケジュール作りに関わっており、他の多くの加盟国もまだ体制を整えている最中だと述べました。政府は「AI法を迅速かつ適切に実施するために最善を尽くす」としています。なお、ポーランドのAI法案（Artificial Intelligence Systems Act）の草案では、「AIの発展と安全のための委員会（KRiBSI）」が市場監視当局を務める想定です。
AI法に“規制のすき間”がある可能性
Euractivのマクシミリアン・ヘニングは、EUの規制では「AIチャットボットが利用者と“親密な関係”を育ててしまう問題」をどこまでカバーするかが明確でないと報じました。OpenAIのサム・アルトマンCEOは、ChatGPTの何億人というユーザーのうち「不健康な関係」に陥るのは1%未満だと見ていますが、それでも人数としては“数百万人”になり得ます。
AI法は「重大な害をもたらすおそれが高い、意図的な操作や欺きの手法」を禁じていますが、開発企業は「ときどき生じる感情的な結びつき」はその基準に当たらないと主張できる余地があり、実際にこの点での取り締まりはまだ起きていません。
ほかのEU法が使われる可能性はあります。たとえば不公正商慣行指令（UCPD）は、消費者の判断をゆがめる手口を禁止し、デジタルサービス法（DSA）は、ユーザーをだましたり操作するインターフェースを禁じています。これらはチャットボットにも適用できそうですが、消費者団体BEUCのウルス・ブスクによると、これらは「会話の中身」ではなく「画面の作り（UI）」を主に対象としており、解釈が難しい面があります。
今後のデジタル・フェアネス法（案）は、「ダークパターン」や中毒性のある設計を抑える狙いですが、専門家は「感情を操作するAIのリスク」を政策担当者がまだ十分に理解していないとして、専用の規制が必要だと警鐘を鳴らしています。
チャットボットと“関係性”への懸念
POLITICOのピーテル・ヘックは、いつでも応答し否定もしない「AIコンパニオン（相手役）型サービス」が、専門家や規制当局の懸念を高めていると書いています。これらは友情の概念を変えるかもしれませんが、SNSや出会い系アプリのように、利用が先行し規制が追いつかず、弱い立場の人が危険にさらされるパターンに似ています。AIコンパニオンが自殺や暗殺計画に関与した事例の報道もあり、監督を求める声が強まっています。
AI法では、チャットボットは「自分がAIである」と明示する義務がありますが、AIコンパニオンに特化した細かな義務はまだ曖昧です。AI法の“リスクに応じた枠組み”では、潜在意識への操作などは「許されない行為」とされ、健康・安全・基本的人権に影響するシステムは2026年8月から「高リスク」になります。オランダのグリーン系欧州議員キム・ファン・スパーレンタクらは、AIコンパニオンを明確に「高リスク」に分類し、人権影響評価を義務づけるよう求めています。
一方で批判者は、現行の枠組みは「機能面の害」に偏り、「感情面の害」を見落としていると指摘し、AIが媒介する“関係”をうまく規制するのは本質的に難しいとしています。
EUのAI戦略（AIオフィス長 ルチッラ・シオーリへのインタビュー）
CSISワドワニAIセンターのローラ・カローリは、欧州委員会DG Connectに新設されたAIオフィスのルチッラ・シオーリ所長に話を聞きました。AI法は、約1年前にこのAIオフィス設置の道を開き、研究・イノベーション・AIの供給網の推進と、AI法の運用監督を担わせました。
AIオフィスの目的は2つです。（1）AIで欧州の経済・社会の成長を促すこと、（2）「信頼できるAI」ルールで信頼を築くこと。政策立案、研究資金、欧州AI行動計画などを所管する複数の部門を束ね、国際連携（グローバル・サウスへの技術移転にも注力）も行います。
AI法の実施時期については、「高リスク」や「透明性」に関する義務を2026年に始める計画ですが、これはCEN/CENELECによる標準化が間に合うことが前提で、欧州委員会は延期の要否を検討中です。
米国から「規制過多」との批判がある点について、シオーリ所長は、「重大な社会リスクを持つ約10%の用途だけを狙い撃ちにするリスク基準であり、研究開発は対象外。27か国バラバラの規制を一つにまとめるメリットがある」と強調しました。