ユーチューバー、有害動画の広告非表示で「巻き添え」被害:YouTubeのAIによる内容審査の限界

2017年5月、YouTubeは約100人の動画パーソナリティー、個人ユーザー、ネットワーク代表者を集めたサミットをニューヨークで開催した。クリエーターたちにとって、これはYouTube経営陣と顔を合わせ、YouTubeでいま何が起きているかを話し合う機会だった。YouTubeが取り組むべき課題として、一部の参加者が指摘したのが、広告売上の減少だ。

その1カ月前、YouTubeは有害動画にフラグをつける作業へのAIツールの利用を拡大した。この動きを後押ししたのが「YouTube広告大災害」と呼ばれる騒動だ。このとき、自社広告が攻撃的で憎悪に満ちた暴力的コンテンツの隣に表示されていることを知った広告主は、一斉にYouTubeへの広告費削減を宣言した。

騒動から4カ月が経ったが、米DIGIDAYが取材した8人のクリエーターは、収入源を断たれた影響はいまも後を引いていると話す。彼らの動画は、一部に下品な言葉遣いはあったかもしれないが、決して嫌悪感を覚える内容ではなかった。にもかかわらず、YouTubeの新たな広告ポリシーでは、彼らの動画も本物のゴミと一緒に処分されてしまうのだ。

クリエーターの癒えない傷

今年3月にYouTubeの広告非表示がスタートしたとき、一部のトップクリエーターは収入面で大打撃を受けた。チャンネル登録者約560万人を誇るフィル・デフランコ氏の場合、最初の1カ月で広告収入が30%も減少した。約470万人がチャンネル登録するh3h3プロダクションズ(h3h3Productions)に至っては、通常の月間広告収入の15%しか得られなかったという。チューブフィルター(tubefilter)は、規制開始直後、この弊害がいかに広範囲に深刻な影響を及ぼしたかを解説記事にまとめている。

「季節的要因から考えて、第3四半期が概して低調なスタートになるのは予想していた。だが今年の下げ幅は、これまでを大きく超えるものだった」と、ルースターティース(Rooster Teeth)のプログラミングディレクター、エバン・ブレグマン氏は言う。同社はYouTube上で、ルースターティース、スローモーガイズ(Slo Mo Guys)といったオウンドチャンネルとパートナーチャンネルのネットワークを運営しており、チャンネル登録者の合計は3800万人に達する。

5月までに、大部分のトップクリエーターの収入は大災害前の水準に回復した。YouTubeの広報担当者によれば、約100人のサミット出席者のうち、収入に依然として深刻な影響が出ている人はいるかと幹部が尋ねたとき、手を挙げたのは4人だけだったという。

だからといって、すべてのクリエーターにとって問題がすべて解消されたわけではない。とりわけ、何百万人というチャンネル登録者もいなければ、YouTube幹部からサミットへの招待も受けていないクリエーターにとって、問題は依然として深刻だ。

ハンナ・ラザフォード氏の例を見てみよう。同氏はゲーム制作会社ヨグスキャスト(Yogscast)のクリエーターで、チューブラーラボ(Tubular Labs)によれば、YouTubeチャンネルの月間再生数は安定して約100万回、チャンネル登録者は130万人だ。ラザフォード氏はツイートで、いまではゲーム専門ライブストリーミング配信プラットフォーム「トゥイッチ(Twitch)」での収入がYouTubeの2倍に達していると明かした。主な原因は、YouTubeでは再生数は変わっていないのに広告収入が「急落」していることだという。

ニュースや社会問題を扱うクリエーターの場合、事態はさらに深刻だ。たとえば、女性の権利向上のため、トラウマを経験した女性たちの証言を公開する、リアル・ウィメン・リアル・ストーリーズ(Real Women Real Stories)のささやかなYouTubeチャンネルを見てみよう。このチャリティープロジェクトの制作費は、全額がYouTubeの広告収入で賄われている。だが、レイプ、性的虐待、人身売買といったデリケートな問題を扱っているせいで、同チャンネルの今年6月の広告収入は、前年同月の2000ドルから、わずか10ドルに下落したと、チャンネルを運営するマタン・ウジエル氏は言う。

「できる限りたくさんの女性たちの証言を公開していきたいが、チャリティープロジェクトは瀕死の状態だ。もはや制作費を賄えない」と、ウジエル氏は言う。

デリケートなコンテンツにフラグが付くことの問題点

このような事態が生じたことで、YouTubeのAIによる広告非表示化の欠点が明らかになった。クリエーターのあいだでは、大まかな理解として、YouTubeは映像、タイトル、サムネイルの画像や文章に刺激の強いもの、きわどいもの、デリケートなものが含まれていれば自動でフラグをつけるとされている。刺激の強い映像や、荒っぽい言葉遣いがふんだんに含まれたゲームをプレーすることの多い、ゲームクリエーターにとっては大問題だ。また、ニュースや社会問題について語りたいクリエーターにとってもやっかいだ。動画がテロや白人至上主義、レイプといった話題を扱ったからといって、これらを賞賛するものとは限らないというのに。

「わたしはYouTubeに、なぜ我々の動画が収入遮断の対象になっているのか問い合わせた。向こうの回答は、これらの動画は広告主にふさわしくないというものだった」と、ウジエル氏は言う。「性的虐待やレイプ、それに女性が抱える問題全般を題材にした動画はマネタイズすべきでないと、彼らは判断したのだ」

これがプラットフォームの現実だ。根本的な問題は、人の手を必要とすることの多い監視という課題にテクノロジーを活用しようとしていることであり、YouTubeだけの問題ではない。Facebookは、ベトナム戦争を象徴する、ナパーム弾から逃げる裸の少女の写真を削除したことで批判を浴びた。AIはまだニュアンスを理解できないため、デリケートな話題を扱った動画は、広告主が避けたがる低俗な動画とまとめて一掃されてしまう。

YouTubeのAIに一貫性が欠けている点も問題だ。ラザフォード氏はゲームソフト「ヘルブレード(Hellblade)」のプレイ動画を12本投稿したうち、11本は承認されたものの、1本は広告非表示となり、理由の明確な説明はなかった。一方ウジエル氏は、リアル・ウィメン・リアル・ストーリーズの動画「女性をモノ扱いすることの弊害(The Harmful Consequence of Objectifying Women)」は広告非表示の対象になった一方、ヤング・タークス(The Young Turks)の動画「わたしは誘拐され、売られた:あるホームレス女性の実話(Kidnapped and Sold: One Houseless Woman’s Tale)」には広告が表示されると指摘する。

またウジエル氏は、動画のタイトルや字幕を別言語に変えて再投稿すれば広告非表示を回避できることも発見した。たとえば、YouTubeは「わたしは6歳でヨーロッパの富豪の性奴隷にされた(I Was a Sex Slave to Europe’s Elite at Age 6)」という動画の広告を停止したが、タイトルをフランス語に直訳したまったく同じ動画「J’étais une esclave sexuelle pour l’élite mondiale partir de l’âge de 6 ans」には広告が表示される。

「女性が抱える問題についてのトピックはマネタイズしてはならないと言う一方で、そうしたトピックの動画が実際にマネタイズされているのは、理解に苦しむ」と、ウジエル氏は言う。

同氏によると、YouTubeの担当者からタイトルや表現を和らげてはどうかと提案されたこともあるという。

あるYouTubeチャンネル担当者は、ウジエル氏へのeメールで次のように述べている「わたしたちはテキスト主体のシステムを利用しているため、一部の表現によって自動的に規制対象となる可能性があります。アルゴリズムを回避するため、なんらかの工夫をされてはいかがでしょうか。ただし、こうした変更をされても、動画の内容が依然としてデリケートなものであるため、マネタイズできるかどうかは保証できません。また、動画のなかで性暴力の状況を説明する際には十分に注意することをおすすめします」

不十分な不服申し立てプロセス

YouTubeに毎分400時間相当の動画がアップロードされる(YouTube調べ)ことを考えれば、審査の大部分がアルゴリズム任せになるのは致し方ない。だが、YouTubeの不服申し立てシステムの対応が遅く、非効率的であることにクリエーターは不満を募らせる。

最近、ラザフォード氏が予約投稿した58分のプレイ動画は、公開される前にYouTubeにフラグを付けられた。「YouTubeの誰かが、『これから58分の動画を見てスキャンしてから回答しますので、多少お時間をいただきます』などと言うわけがない」と、ラザフォード氏は動画のなかで述べた。

ラザフォード氏は、YouTubeにフラグ付けされた200本以上の動画について不服申し立てをしたが、これまでに承認されたのはわずか2本だ。

YouTubeの広報担当者は、声明で次のように述べる。「今年3月、当社は広告主が広告の表示される動画を選べるよう、新たな規制を開始しました。機械学習を利用して、プラットフォーム上の何百万本もの動画を審査することで、この選択を実現しています。ですが、完璧なシステムなどありません。そのため、クリエーターの皆様には、わたしたちの評価が間違いだと思う場合は、人の目によるレビューを要請してくださるようお願いいたします。たくさんの報告をいただければ、わたしたちの広告表示システムはそれだけ向上します」。

広告非表示になった動画は、7日間に1000回以上再生されなければ再審査の資格を得られない。この規定は、AIが再生数の少ない動画に足を引っ張られないようにするためだと、YouTubeは説明する。だがこのやり方は、小規模チャンネルにとって痛手だ。クリエーターは、YouTube動画のライフサイクルにおけるもっとも重要なステージである最初の7日間、収入源を断たれることになるからだ。複数のクリエーターによれば、通常、YouTube動画は総再生数の70%を最初の7日間に獲得する。

残念ながら、この問題に単純な解決策はない。YouTubeは、動画の高評価と低評価の比率を考慮するようにアルゴリズムをアップデートすることで、有害動画と、デリケートな話題を掘り下げる動画を区別するAPIの能力を改善できるかもしれないと、ウォッチモジョ(WatchMojo)のCEO、アシュカン・カーバスフルーシャン氏は言う。一方、Facebookは今年、過激コンテンツのスキャンと排除を専門に行うキュレーター3000人を追加採用する予定だ。

現在クリエーターが置かれている状況は、突き詰めれば他人のプラットフォーム上で作品を公開することのリスクが顕在化したものだ。プラットフォームの事業目的は、必ずしもコンテンツ供給者のものとは合致しない。YouTubeの関係筋によると、「YouTubeの目標は、すべての広告主が安心してプラットフォームに広告を掲載できる状態にすることだ」という。これは大部分のクリエーターにとっても有益なのは確かだが、すべてのクリエーターを満足させることはできない。これがYouTubeの現在の広告ガイドラインの限界だ。

ヤング・タークス・ネットワークの最高執行責任者(COO)、スティーブン・オー氏は次のように述べている。「YouTubeは広告主のニーズとクリエーターのニーズのバランスを取ろうとしている。彼らがいつもうまくやれているかと問われれば、もちろん違う。このバランスを維持するのは非常に難しい。広告主が利益の保護を求めるように、クリエーターも同様の訴えをしていくべきだ」と、彼は言う。

Sahil Patel (原文 / 訳:ガリレオ)