Facebook、Twitter、Microsoft、YouTubeが協力して、膨大なデータベースを作成すると発表しました。このデータベースには、テロリストのネットワークがプロパガンダを広め、潜在的な新兵を獲得するために使用する画像やビデオが含まれることになります。このデータベースは、サイト上の何かが利用規約に違反する可能性がある場合、これらの企業に警告を発します。

美味しそうでしょう？

詳細

今のところ、その詳細はよく分かっていません。データベース内の各画像や動画は「ユニークなデジタル指紋」を持ち、このコンテンツがウェブサイトに表示されると、同社は警告を受けることになります。プロジェクト開始当初は、「最も過激で悪質な○○の画像や動画」のみをデータベースに追加していく予定です。

これらの画像や動画は、あらゆるプラットフォームの利用規約に抵触する可能性が高いということです。そのため、他の場所にコンテンツが表示された場合、削除の判断がしやすくなっています。データベースに登録する画像や映像は、各社が自由に決めることができます。また、コンテンツがウェブサイトに掲載された場合、それを削除するかどうかを決定する権利も有しています。

今のところ、私たちは多くのことを知っているだけです。 Twitterは、"このコラボレーションが、差し迫ったグローバルな問題や***のオンラインコンテンツを抑制するためのポリシーを継続的に実施する際の効率化につながることを期待しています。"と述べています。しかし、今のところどの程度なのかは本当にわかりません。投稿するコンテンツは誰が決めるのですか？そのための独立した審査委員会を設置するのでしょうか？それとも、ときどき何か追加されるのでしょうか？

成績不振

ネット上のコンテンツは、警察による監視が難しい。誤報、罵倒、○○募集動画など、ネット上には無数の好ましくないコンテンツがあり、そこには地雷原が存在しています。どのグループが○○○○と認定されるかは、誰が決めるのですか？コンテンツの削除はどのように決定されるのですか？企業は外に出て探すのか、それともユーザーからの報告に頼るのか？

マイクロソフトは、サイバーテロコンテンツに関する声明の中で、次のように述べています。

当社のホストコンピューターサービス上のテロコンテンツが、当社のオンラインレポートツールを通じて当社の注意を引いた場合、当社はそれを削除します。

また、「○○○○」の内容を報告するための専用フォームへのリンクも提供しています。しかし、実際に誰かがこのフォームを探して使う可能性はあるのだろうか？また、"現地の法律で検索プロバイダーが必要とする場合のみ、Bingから○○○に関連するコンテンツへのリンクを削除する "という。

これでは、さらに責任を他に転嫁することになる。

責任問題

電子フロンティア財団は、このようなオンラインコンテンツを規制することの難しさについて、幅広く記事を書いています。2014年の記事では、透明で説明可能なプロセスなしに、インターネットサービスプロバイダに「過激派コンテンツ」のブロックを強制する英国の計画を批判しています。また、人権団体からは、フランスのテロ活動の定義が非常に広範であるとの批判を受けた。

TwitterもFacebookも、サイト上のコンテンツを取り締まる実績はかなり低い。TwitterはISIS関連のTwitterアカウントを10万件以上削除し、ヘイトスピーチグループをより積極的に取り締まり始めたが、過激派や虐待をプラットフォーム上で横行させるという評判がある。Facebookもまた、言論の自由の名の下に「実地主義」のアプローチを続けているようである。"ハンズオン "アプローチ

もちろん、この責任の所在を管理するのは、かなり難しい。簡単とは言いません。しかし、ハイテク企業は、自分たちの技術の用途から距離を置くのが得意です。これには、***からの画像、動画、募集キャンペーンなどのコンテンツの発信が含まれます。 2016年8月、英国の報告書は、Facebook、Twitter、YouTubeが "テロや殺人を促進するためのウェブサイトの使用に意識的に対処していない "と指摘しています。

画像や映像のデータベースを構築しても、それは変わらないようだ。行動を起こしていることは頼もしいが、それを徒労に終わらせるとは考えにくい。

これはプライバシーの問題なのでしょうか？

ユーザーからの通報を受け、同社が手作業でデータベースに登録するため、誤って自分の画像や動画がデータベースに登録される可能性は低いと思われます。これは励みになりますね。しかし、一意に識別される「悪い」コンテンツでいっぱいの大規模な中央データベースが作成されることは心配です。

これは、その時の担当者が「悪いこと」を決められることが大きい。特に、**関与**がある場合はそうです。ある日は多数派の一員であり、次の日は少数派として迫害されるかもしれません。このテクニックを応用することで、さらに恐ろしい変化を遂げることができる。

もちろん、これらの企業がこのデータベースを利用して、自社の利用規約のガイドラインを施行する気配はない。しかし、民間企業がこの技術を開発し、展開しているという事実は、人によっては心配になるかもしれない。**このような強力な監視技術はすでに利用可能ですが、普及は、近い将来、企業がより多くの情報を収集するためのツールを持つようになることの表れかもしれません。

今のところ、****コンテンツデータベースからプライバシーが危険にさらされる心配はありません。しかし、プライバシー保護団体や擁護団体は、このような技術の他の場所での応用を注視しておくことが望ましいと思われます。

一歩前進？

技術系企業が、自社のプラットフォーム上の恐ろしいコンテンツに対して、率先して行動するようになったのは良いことです。しかし、その実績は、いい加減な施行と意図的な放置に満ちている。このツールは、それを好転させるのに役立つでしょうか？ありそうでなかった。私見では、このデータベースはあまり大きな違いをもたらさないでしょうし、Twitter、Facebook、Microsoft、YouTubeはいずれも、本当に有益なものというよりは、むしろ広報的な措置としてうまく考えていると思います。

いかがでしょうか？このデータベースは、オンラインでの○○○○の拡散に対抗するために役立っていますか？それとも、世間の評価を得るための空手形なのか？以下のコメントであなたの考えを共有してください。

画像引用元：Yunava1/Shutterstock