CONTENT & COMMERCE

ヘイトを喚起する商品群、 ECプラットフォーム を悩ます:「どこも学習の途中段階だ」

DIGIDAY無料メルマガに登録しませんか?

平日朝9時にマーケティング業界の最新情報をお届けします。利用規約を確認


1月6日に米国で発生した議会議事堂の乱入事件の影響が、ECプラットフォームにまで広がっている。

1月7日から11日にかけて、コマースプラットフォームのティースプリング(Teespring)は、アウシュビッツ強制収容所を彷彿とさせる商品を販売していた26ユーザーのアカウントを削除した。問題となった商品の売上はなかったものの、同社はこの件の詳細について声明を発表している。

同社のCEO、クリス・ラ・モンターニュ氏は「コンテンツや制作分野は、急激に変化を続けている。今日何でもなく読み過ごされている投稿が、明日にはヘイトスピーチになるかもしれないし、今バズっているコンテンツが明日には商品化されるかもしれない」と語る。

「使いやすさ」が逆効果に作用

1月に入って、問題のある商品の処分を実施したのはティースプリングだけではない。1月11日には、大手マーケットプレイスのエッツィー(Etsy)のストアに、ドクロ十字と「Camp Auschwitz(アウシュビッツ収容所)」と書かれたTシャツが掲載された。これがとりわけ大きな問題となったのは、議事堂乱入者がまさに同じようなデザインのスウェットを着用し、ネット上で大きな批判にさらされていたためだ。同商品をエッツィーに出品していた業者は、同社による確認後、アカウントを削除されている。

1月7日には、ショッピファイ(Shopify)がトランプ大統領関連のアカウントを凍結した。米国では、議事堂乱入事件を受けて、多数のプラットフォーマーが同様の措置に踏み切っている。ショッピファイは、「暴力を助長するような組織、プラットフォーム、人間の支援にあたるような行為を禁止する」という同社の利用規約に違反したことを理由として挙げている。

ECプラットフォーム上には、いまだに監視の目を逃れて問題行為を行うユーザーが存在しており、その取り締まりに苦慮している。数え切れないほどある商品のなかで、たった1枚の悪質なデザインのTシャツが、プラットフォーム全体のボイコットにつながりかねない。なかには商品名を変えたり、商品画像を検知されないように加工したりすることで監視アルゴリズムから逃れようとする悪質な販売業者も存在する。ユーザーの使いやすさに配慮したプラットフォームの設計が、こういったケースでは逆効果に作用。悪質な業者が時間をかけずにデザインを加工し、アップロードするのを可能にしている。EC企業としても現段階では、コンテンツの監視スタッフを増やし、複雑に変化を続ける社会情勢に合わせて、問題のある業者のみをすくい上げていくほかない状況だ。

対応に苦慮するプラットフォーマー

このようにして各社のコンテンツ管理チームやAIサーバーに、利用規約に反する販売業者を見つけ出すようタスクが課されている。実情、なかなか成果は上がらない。米国のオルタナ右翼層が使うシンボルや謳い文句は次々に変わっていくうえ、右翼グループ同士が組み合わさって、新たなシンボルを生み出すことも珍しくない。

たとえば、米国の極右団体「プラウドボーイズ(Proud Boys)」がフレッドペリー(Fred Perry)のロゴをほぼそのまま使用したことで、同社はポロシャツの生産停止を決定せざるを得なくなった。ほかにも、第2次南北戦争の勃発予告を流布する団体「ブーガルーボーイズ(Boogaloo Bois)」は、ハワイのシャツを非公式の制服に定めている。

「どこも学習の途中段階での対応を迫られている」と、ラ・モンターニュ氏は語る。「すべての事象を、背景を含め正確に理解するのは実質的に不可能だ」。

ECプラットフォームには、毎日何千という商品が新たに掲載される。たとえばティースプリングには、毎日平均で4万点を超える商品が陳列される。そしてそのうちの実に8.7%が、自動または監視スタッフの手でコンテンツポリシーに抵触すると判断されている。

また同社は、クリエイター向けコンテンツプラットフォームであるスプリング(SPRING)でのリブランディングも敢行。YouTubeやTikTokと提携する同プラットフォームの特徴を利用して、悪質コンテンツ削減に機能強化を図った。しかし、タイミングの悪いことに、今回の問題が、このリブランディングと同日に発生。ラ・モンターニュ氏は今後、ほかのSNSプラットフォームと同様に、ショップ責任者の身元をより厳格に確認するといった対策を進めていくと述べている。

「確固たる姿勢」を経営幹部が強調

ソサエティ6(Socialety6)やショッピファイ(Shopify)では、ヘイトスピーチを助長するような商品掲載を許容しないこと、監視チームとAIが毎日コンテンツの監視を行っていることを、経営幹部が前面に出て、あらためて強調した。ある企業の幹部は、匿名を条件に次のように言う。「作業としては容易ではないが、利用規約自体は極めて明確だ」。またエッツィーは、アウシュビッツ博物館の問い合わせに対し、Twitterで次のように回答している(我々も同社に問い合わせたものの、回答は得られなかった)。

「エッツィーは、あらゆる形のヘイトスピーチを断固として許容しない。我々は即座に問題のある商品を削除し、販売していたショップを排除した。こういった規約に違反する商品について、当社は積極的な監視と商品の削除を進めている。また、問題を提起していただいた@AuschwitzMuseumに感謝の言葉を贈りたい」。

ECプラットフォーマーがヘイトスピーチを助長する商品の根絶対策を実施したのは、今回が初めてではない。すでに昨年10月に、エッツィーやティースプリング、イーベイ(Ebay)は、プラウドボーイズやQアノン関連の商品を禁止とする措置を採っている。

不満をもらす、ほかの販売業者たち

今回のTシャツの画像でエッツィーは炎上し、Twitterでは同社サイトへの訪問や買い物のボイコットを求める声すら上がった。だが、エッツィーで商品を販売するダニエル・パーネル氏は、ボイコットはほかの商品を販売している業者にとっては、理不尽にほかならないと反論する。

「Twitterでは、サイトに掲載する前に全商品を確認、承認すべきだという意見が多い。だがエッツィーほどの規模になると、そんなことは到底無理な話だ」。「そしてボイコットすれば、何千という販売業者が痛手を受けることになる。文字通り、何百万という商品があるなかで、たったひとつの商品でこのように取り沙汰されるのは、少々不公平ではないか」。

[原文:‘On a learning curve here’ E-commerce platforms still struggling with hateful listings

ERIKA WHELESS(翻訳:SI Japan、編集:長田真)