欧州で導入されるAI関連の規制に、企業は恐慌状態に陥りはじめている。おそらく、それには相応の理由がある。

欧州連合（EU）のAI法が実現すれば、AIの責任ある倫理的な活用をめぐるガイドラインに従わない企業は、目をむくほどの高額な制裁金に直面することになる。その金額たるや、一般データ保護規則（GDPR）が定める巨額の制裁金がはした金に見えるほどだ。AI法に違反した企業は、全世界での年間売上高の7％（GDPRの上限は4％）に相当する制裁金、または最大4000万ユーロ（約62億円）の制裁金（GDPRの上限は2000万ユーロ[約31億円]）を科されるという。

これに慌てたのがエアバス（Airbus）、メタ（Meta）、ルノー（Renault）、シーメンス（Siemens）ら、大企業の経営幹部たちだ。AI法は欧州全体の技術革新を阻害する恐れがあるとして、同社らはその効力を弱めるように欧州議会に訴えた。さらに、米誌タイム（Time）によると、オープンAI（OpenAI）も自社の規制負担を軽減すべく、同法の効力を薄めるためのロビー活動を密かに開始したという。

Advertisement

法務の専門家たちは、それら企業にはそうするに足る理由があると話す。世界各地の議員から成るグローバルネットワークであるAI研究所（Institute of AI）の所長であり、ロンドンを拠点にテクノロジーおよびメディア分野で活動する法律事務所のハーボトル・アンド・ルイス（Harbottle and Lewis）で、テクノロジーとデータおよびデジタル部門を統括するエマ・ライト氏は、「世界を牽引する規制の基調を打ち出したいと願うあまり、いまだ黎明期と言ってよい市場で、EUは少々行き過ぎたのではないか」と話す。「現時点で、同法の定義はあまりに広く、取り締まる意図のないものまで取り締まりの対象になりかねない」。

以下に、EUのAI法について押さえておくべきポイントを解説する。

EUのAI法は何を目指しているのか？

EUのAI法は、国を超える規制機関によってAIの使用に一定の「ガードレール」を設けるという初の本格的な試みで、差別やデータプライバシーの侵害につながるような、想定内または想定外のAIの悪用を未然に防ぐことを目的としている。

EU加盟国（EUから離脱した英国を除く27カ国）で事業を営み、当該国に従業員または顧客を持つすべての企業（米国企業を含む）は、一律にこの法律の遵守を義務づけられ、違反すれば制裁金が科される。また、英国のAI企業であっても、EU加盟国と取引のある輸出企業またはAIaaS（AI as a Service）事業者は同法の対象となるため、きわめて重大な法律であることに変わりはない。

多方向に伸びるAIの触手はすでにあちこちで大混乱を引き起こしている。とりわけジェネレーティブAIは、偽情報の生成から事実のねつ造（いわゆる「ハルシネーション・幻覚」）、ディープフェイクから著作権侵害に至るまで、利益と同じくらい多くの問題が生じている。EUのAI法は、企業によるAIの活用を「許容できないリスク」「ハイリスク」「限定的リスク」「最小リスク」の4つに分類（以下に詳細を記載）することで、この混乱に一定の予防策を講じようというものだ。

許容できないリスク：ソーシャルスコアリング、顔認識、ダークパターンAI、潜在意識への操作

ハイリスク：教育、雇用、司法および民主主義プロセスの管理、移民、法執行システム

限定的リスク：チャットボット、ディープフェイク、感情認識システム

最小リスク：スパムフィルター、ビデオゲーム

金融サービスをはじめ、ほかよりも重大な影響を受ける分野もあるだろうが、従業員を採用する企業（つまり事実上すべての企業）は、いずれこの問題に向き合わざるを得ない。

著作権侵害にからむ複雑な問題

ジェネレーティブAIの加速度的な普及がもたらす目下の懸念の大半は、著作権侵害にからむ混乱だ。米国ではこのほど、ChatGPTを開発したオープンAIが著作権法違反の疑いで2つの法律事務所から複数の訴訟を提起されている。

著作権の地雷原は容易には解決しないが、EUのAI法はこの問題にも対処する意向を示している。6月上旬、EUは同法案を修正して、ジェネレーティブAIが引き起こす著作権侵害の問題を追加した。ライト氏はこう説明する。「これにより、ジェネレーティブAIのプロバイダーはAIが生成したコンテンツについて、ユーザーにその旨を告知する必要が生じる。また、AIの訓練と設計にあたって安全対策を講じ、AIが生成したコンテンツの合法性を保証するとともに、AIモデルのトレーニングに著作権のあるデータが使用された場合は、十分な詳細の開示が義務づけられる」。

理想的に聞こえるが、現実はもっと面倒なことになりそうだ。たとえば、ある画家が画廊を訪れ、複数の別の画家の作品からインスピレーションを得たとする。そして画廊から帰り、先刻見てきた画家から触発されたり、その影響を受けたりしながら自らの肖像画を複製したとする。これは新しいオリジナルの作品とみなされるだろう。「AIシステムの学習データがやっているのは、実質的にそういうことだ」と、デロイト（Deloitte）のパートナーでインターネット規制に詳しいニック・シーバー氏は指摘する。

また、「AIはさまざまな種類の作品を数多く参照する。システム内に参照した作品を保存するわけではない。参照してきた作品を振り返って、システムにプロンプトを入力したら、ある答えが返される。この過程を見ると、これを生成するのに使用した著作物はこれだと特定することは不可能だ。これはこの種の画家の作品に酷似していると結論づけることはできても、それは一対一の関係ではない。これがAIと著作権問題の厄介なところだ」と続けた。

EUのAI法はこうした問題を解決する一助とはなるかもしれないが、「すべてを解決する万能薬とはならない」とシーバー氏は強調し、「我々は前例のない立場に立たされている。というのも、ジェネレーティブAIをどのように扱うべきか、それが生み出すものが新しい作品なのか、それとも著作権を侵害するものなのかについて、知財や法律の専門家のあいだで議論が多く起きているからだ」と付け加えた。

いますぐ準備を開始すべき

ほとんどの企業は、GDPR前の準備の苦悩を覚えているだろう。2年間の猶予があったにもかかわらず、規制開始日にはメディア業界やデジタル広告業界に大混乱を引き起こし、パブリッシャー、マーケター、広告エージェンシー、アドテク企業はサービスを継続するために、データの取得と利用に関する消費者の同意を求めて奔走した。（いまも完璧に対応できているとは言い難い。実際、メタはこの5月にGDPRに違反したとして12億ユーロ［約1873億円］の制裁金を科せられた。）

最新の調査によると、現在35％の企業がすでにAIを活用しており、42％の企業が近い将来にAIの導入を検討している。AIが誕生して間もないことを考えれば、企業がGDPRのときのような悪夢にうなされることはないだろう。AI法が施行までに1年半から2年はかかると推定されるが、準備を先送りするのは賢明でない。

「欧州委員会はAI法の成立に強気で、年内の成立に向けて全力で取り組むとしている」とシーバー氏は話す。「AIに依存している企業、あるいはビジネスモデルにAIの要素を取り入れている企業は、いますぐAI法の影響について検討すべきだ。まだ法案が最終的に成立したわけではないため、厳格かつ不可逆的な決断を下す必要は必ずしもない。しかし、方向性は明確に示された」。

「ジェネレーティブAIが急速に普及し、多くの企業がAIに関する基本方針や活用の指針を模索しはじめたいまこそ、AI資産台帳の作成を検討すべきだ」と主張するのは、ハーボトル・アンド・ルイスのライト氏だ。同氏は、「世の中にはどんな選択肢があるのか。誰かが人知れず調達した資産を調達部門が隠し持っているようなことはないか。そういう確認や整理から始めてはどうだろう。というのも、GDPRのケースを思い起こせば、多くの企業が個人データの流れを把握するだけで右往左往していたからだ」と述べる。

同氏はそう振り返ったうえで、「しかし、いますぐそのプロセスの整備に着手すれば、ビジネスでのAIの導入が進むにつれて、そうしたことの必要性にも気づくだろう。さらに、設備投資の検討を始めているなら、最終的にEUで禁止対象もしくはハイリスクに分類されるAIへの投資を避けるために、数年先の法規制の行方も探っておくべきだろう」と語った。

AIという「ブラックボックス」の透明化

最大の問題のひとつは、AIモデルがどのように訓練されているのか誰も本当のところを理解していないことであり、その不透明さによってAIの将来性が危険視されかねないことだ。「いま現在、多くの人がAIをブラックボックスだと見ている。それは実に恐ろしいことだ」と、インクルージョンと偏見のない人材採用に特化した、AIベースの人材紹介サービスを提供するアルヴァラブズ（Alva Labs）で、法務部門を統括するマリン・ブッフ氏は述べている。

アルヴァラブズの場合、採用に関する厳格な倫理ガイドラインを設けて事業運営をしているという。しかし、規制当局が承認したガイドラインの青写真があれば、あらゆる企業が恩恵を受け、AIサービスの機能や構造に関する透明性が高まるはずだ。ブッフ氏も、「アルヴァラブズの社内検証で得られた成果に加えて、規制側の指針があれば、透明性と信頼性を改善できる。AIの活用に関する一定の枠組みがあることで、安心してAIツールを使えるようになると思う」と語る。

また、「GDPRへの対応で酷くつらい経験したすべての企業が、EUのAI法に備える強固な基盤をすでに持っている」と強調。「どの企業も、プライバシーや情報セキュリティをはじめ、GDPRに備えるなかで多くの作業を積み上げてきたと思う。その一部としてAIの要素を組み込み、整備したプロセスを文書化し、社内外でのAIの活用方法について基本方針を策定すればよい」と続けた。

GDPRへの対応を完了している企業が有利だという見立てについては、ライト氏も同じ考えのようだ。「ガバナンスの枠組みや基本原則が整備されていれば、それは大きなアドバンテージになるだろう。さらに、データ保護影響評価なども、EUのAI法に従って独自の評価を行う際に、有用なツールとして活用できるだろう」。

［原文：Why pending AI laws are prompting businesses to panic］

Jessica Davies（翻訳：英じゅんこ、編集：島田涼平）