リチャード・ブルメンソール米上院議員（民主党：コネチカット州選出）は、5月16日に開かれたAIの監視に関する公聴会の冒頭で、ジェネレーティブAIの危険性を説明するため、国会議員としては異例のデモンストレーションをおこなった。AIのリスクと規制の必要性について、自分自身のディープフェイク音声に語らせたのだ。

このAI音声クリップは、ブルメンソール議員の議会演説の録音データを元に生成されたもの。読み上げられた文章は、AI規制に関する公聴会の冒頭にふさわしい発言はどんなものか、ChatGPTに質問した結果に基づいて作成された。

「テクノロジーが規制を上回るペースで発展した場合に何が起こるかを、我々は何度となく目の当たりにしてきた」と、ブルメンソール議員のAI生成音声は語り、「身勝手なデータの乱用、虚偽情報の氾濫、社会的不平等の拡大。アルゴリズムのバイアスは差別と偏見を助長し、透明性の欠如は大衆の信頼を損なう。こうした未来は我々の望むものではない」と続けた。

Advertisement

AIへの懸念を表明する議員たち

5月16日に開かれた米上院司法委員会公聴会で、議員たちは著名専門家を招き、数時間にわたってジェネレーティブAIとそのリスク、および規制の方法について質問した。また公聴会では、オープンAI（OpenAI）のCEOであるサム・アルトマン氏が初めて国会の場に姿を見せ、IBMの最高プライバシーおよび信頼責任者であるクリスティーナ・モンゴメリー氏や、ニューヨーク大学教授のゲイリー・マーカス氏とともに証言した。

議員たちは、データプライバシー、選挙介入、著作権侵害、雇用喪失などの問題ついて、代わるがわる懸念を表明。彼らはまた、こうした問題に規制当局と企業が対処していくうえで、どのようなハードルが想定されるか、専門家たちに見解を尋ねた。

公聴会では、議員たち自身もジェネレーティブAI技術に触れ、その仕組みとリスクを理解しようと試みていることも明らかになった。マーサ・ブラックバーン上院議員（共和党：テネシー州選出）は、ChatGPTにカントリー歌手のガース・ブルックス風の歌詞を書かせたという自身の体験を語りつつ、AI生成コンテンツの著作権は誰に帰属するのかを質問した。

エイミー・クロブシャー上院議員（民主党：ミネソタ州選出）は、ChatGPTにミネソタ州の投票所の住所を質問したところ、回答の住所は偽物だったと述べ、AIが報道機関に与える影響について懸念を示した。

脅かされる著作権

アルトマン氏は、コンテンツのクリエイターおよび所有者は「この技術から恩恵を得る側でなければならない」と自身の考えを述べ、どのような経済モデルが妥当なのか、関係者と議論を重ねている段階であるとした。

「映画や書籍だけでなく、ニュースコンテンツにも補償を行わなければ、まっとうなコンテンツ制作者はいなくなるだろう」と、クロブシャー議員は述べた。「当然ながら、著作権法や通信品位法230条（ユーザー作成コンテンツに対するプラットフォーマーの免責事項を定めた法律）には例外規定がある。だが、小規模新聞社に片っ端から訴訟を起こすよう勧めるのは解決策にはなり得ない。到底扱いきれないからだ」。

アルトマン氏の考えでは、今のところChatGPTのユーザーは、チャットボットの回答には事実確認が必要であることを理解している。ただし、モデルが改善し、「ユーザーが（AI生成コンテンツを）取捨選択する思考プロセスを踏まなくなった時に何が起こるかを心配している」と、同氏は言う。

また、「企業がAIモデルの挙動や不正確な部分について情報を公開し、あわせて独立の組織や企業もこうした情報提供を行うような未来が望ましい」と証言した。

現状、妥当と考えられる法規制は？

AIモデルの透明性も重要な議題のひとつとなった。議員たちは、AI生成コンテンツの内容が信頼のおけるものかどうかを説明する、独立機関が作成した「詳細の表示」やスコアカードを付与すべきかどうかを質問。そこでは、ニューヨーク大学教授のゲイリー・マーカス氏が「AIを規制するためのツールはまだ存在すらしていない」と答えた。

想定される規制の在り方は、現時点ではまだ極めて曖昧だ。同氏は、AI規制に特化した米国政府の専門機関を設けるべきであり、同時に世界規模でテクノロジーを監視する国際機関も必要であると言及。それについてアルトマン氏は、「原子力技術を監視する国際原子力機関（IAEA）など、他業界にはすでに先例がある」と指摘した。

公聴会のなかで、ジョン・ケネディ上院議員（共和党：ルイジアナ州選出）は3人の専門家に対し、彼らが（たとえ暫定的であっても）妥当と考える法規制の具体例を尋ねた。IBMの最高プライバシーおよび信頼責任者であるクリスティーナ・モンゴメリー氏は、「異なる文脈ごとにAIのルールを定めることが重要である」とし、マーカス氏は食品医薬品局（FDA）が実施するような安全性審査のプロセスを設けることを提唱した。一方でアルトマン氏は、独立機関がAI企業に対する監査やライセンス発行をおこなう可能性に言及した。

AIと広告

公聴会で「広告」が話題に上ったのは数回だけだったが、専門家たちは今後ますます問題化する分野であると予想する。マーカス氏によれば、ジェネレーティブAIを利用したハイパーターゲティング広告は「確実に出現する」と言い、「それにはオープンAI以外の人々が開発するオープンソースAIモデルが使われるかもしれない」と述べた。

アルトマン氏は、オープンAIは広告収入に依存しないビジネスモデルであるため、「人々にできるだけ多く使わせることに注力してない」と述べた。ただし、オープンAIに今後広告を提示する可能性はあるかという、コーリー・ブッカー上院議員（民主党：ニュージャージー州選出）の質問に対して、アルトマン氏は「絶対にないとは言えない」と答えた。

「我々がサービスを提供したい相手がいて、ほかに有効なビジネスモデルがないというケースは考えられる。ただし、私はサブスクリプションベースのモデルをとても気に入っている」と、同氏は述べた。

過去の失敗から、規制に向けた目は厳しさを増す

議員たちはまた、主要ソーシャルネットワークの規制に踏み切るまでに時間をかけすぎたことなど、「過去の失敗を繰り返すつもりはない」と強調した。たとえば、アレックス・パディラ上院議員（民主党：カリフォルニア州選出）は、非英語圏のコンテンツモデレーションへのテック企業の投資が不十分であることを指摘。また、ジョン・オソフ上院議員（民主党：ジョージア州選出）らは、子どもたちをテクノロジーから守ることの重要性を訴えた。

「これまで繰り返し起こってきたこととして、売上が使用量、スクリーンタイム、使用の激しさに依存する企業は、すべてのユーザーのエンゲージメントを最大化するようにシステムを設計してきた」と、オソフ議員は指摘した。

また、「こうしたユーザーには子どもたちも含まれ、多くのケースで深刻な悪影響がもたらされた。私から謹んで進言したいのは、こうした問題を回避してほしいということだ（中略）私を含め、この小委員会のメンバーは、子どもたちへの有害なテクノロジーの普及に対し、極めて厳しい目を向けるだろう」と述べた。

［原文：At the Senate’s first AI hearing, lawmakers and OpenAI, IBM execs weigh risk and regulation］

Marty Swant（翻訳：的場知之／ガリレオ、編集：島田涼平）