IT企業によるデータ収集が問題視されるなか、米連邦取引委員会（FTC）がアルゴリズムの規制に乗り出している。これはデータ収集による収益化に対して、まさに核心をついた規制方法と言える。

FTCのコミッショナーであるレベッカ・スローター氏は、7月中旬に行われた米DIGIDAYのインタビューで「違法行為により利益を得ている企業があれば、その根幹を直接叩き正しい方向へ導く」と述べている。

アルゴリズムの取り締まりにつながった、ふたつの事例

スローター氏は、FTCによる今後の取り締まりの方向性を示す事例をふたつ挙げている。ひとつは5月にFTCへの制裁金を支払ったエバーアルバム（Everalbum）で、モバイル写真アプリ「エバー（Ever）」でユーザーの同意を得ずに顔認証を行っていた事例だ。Everはすでにサービス停止となっているが、同社への制裁の中で現在の技術や収益化の仕組みに対して、違法行為防止に向けた新たな要件が追加された。

Advertisement

FTCは写真や動画に顔認識を適用する前にユーザーから明示的な同意を得ることや、アカウントを削除したユーザーの写真や動画を削除することを当然の如く求めているが、それらに加えて「アプリでユーザーがアップロードした写真やビデオを使って、エバーアルバムが開発したモデルやアルゴリズムを破棄すること」を新たな用件として追加した。

機械学習アルゴリズムは大量のデータを処理するごとに洗練されていく。すなわち、この種のアルゴリズムはユーザーデータの産物と言っても良い。つまり、企業が不正に収集したデータを完全に取り締まるにあたっては、不正に収集されたデータを取り込んだアルゴリズムそのものも取り締まる必要があると判断された。

「その場しのぎではないソリューションを生み出す土台に」

FTCがアルゴリズムの破棄を求めたのは今回が初めてのことではない。悪名高い政治（選挙）データ会社、ケンブリッジ・アナリティカ（Cambridge Analytica）に対してFTCは、2019年に「Facebookアプリで収集した情報の使用方法について虚偽の説明をした」とし、データそのものだけでなく、アルゴリズムを含め、「対象になった情報だけでなく、付随・由来するあらゆる情報や成果物」を削除または破棄するよう命令している。

この問題についてスローター氏は米DIGIDAYのインタビューのなかで、「アルゴリズム破棄の命令は、あの事件における重要な成果だ。収集してはならないデータを収集している企業に対し、表面的な部分だけでなく得ている利益そのものについて、将来に向けた防止策を含めてどのように処分するかが重要になる」と述べている。

このアプローチからも、FTCは今後この問題に対してより積極的に取り組んでいく姿勢が伺える。スローター氏は、ケンブリッジ・アナリティカに下されたアルゴリズム破棄の命令について、「デジタル市場で次々に生まれる課題に対し、その場しのぎではなく創造的で適切なソリューションを生み出す土台になった」としている。

FacebookとGoogleへの新たな圧力

データの不正取得に対し、アルゴリズムの破棄が有効と考えているのはスローター氏だけではない。FTC委員のロヒー・チョプラ氏は、エバーアルバムのケースに対する1月の声明のなかで、顔認識に関するアルゴリズムなどの技術の破棄命令について「重要な軌道修正」と表現している。FTCは過去にFacebookやGoogle傘下のYouTubeに対する制裁も行っているが、そこでは不当に入手したデータで作られたアルゴリズムの破棄は求めていなかった。一方チョプラ氏は、エバーアルバム事件で「不当に得た利益の没収に成功した」と、6月からFTCの新委員長を務める改革派のリナ・カーン氏に対し述べている。

スローター氏は今年2月にもアルゴリズムの削除について言及しており、IT企業をクライアントに抱える弁護士らからも注視されている。法律事務所のデイビス・ライト・トリメイン（Davis Wright Tremaine）にて技術・通信・個人情報・セキュリティを担当するケイト・ベリー氏は、「スローター氏の発言から、AIや機械学習を使った技術に対するFTCの強い姿勢が見て取れる」と話す。「今後数カ月、数年というスパンで各社に民事調査請求が出される可能性がある」。

オリック・ヘリントン＆サトクリフ（Orrick, Herrington and Sutcliffe）の弁護士も、ベリー氏の予想に同調する。同事務所はスローター氏の発言をふまえて、「AIや機械学習の技術を開発している企業は今後、データの処理方法について適切な通知を行うよう検討すべきだ」と述べる。「アルゴリズムの破棄命令は、FTCによる制裁の単なる第一ステップに過ぎない」。

［原文：Why the FTC is forcing tech firms to kill their algorithms along with ill-gotten data］

KATE KAYE（翻訳：SI Japan、編集：分島 翔平）