Facebookがライブストリーミングサービスの悪用に対抗するための「ワンストライク」ポリシーを発表 – TechCrunch


フェイスブック 3月にニュージーランドで開催された2つのクライストチャーチのモスクで50人が死亡した衝撃的な大量射撃の放送に使用された後、同社はライブストリーミングサービスを締めくくっている。ソーシャルネットワークは本日、ルールを破ったユーザーがFacebook Liveサービスを利用するのを防ぐ「ワンストライク」ルールを実施していると述べた。

「今後、当社の最も重大なポリシーに違反したユーザーは、最初の攻撃から一定期間(たとえば30日間)Liveを使用することが制限されます。たとえば、文脈のないテロリストグループの声明へのリンクを共有している人は、一定期間Liveを使用できなくなります」とFacebookの誠実性担当副社長のGuy Rosenは書いています。

同社は、これらの人々に対して追加の制限を実施する予定であると語った。それには、ソーシャルネットワークで広告を出す能力を制限することも含まれる。 「危険な個人や組織」に対するFacebookの方針 – 今月初めにいくつかの右翼の人物を禁止するための新しい導入 – に違反する人たちは、Liveの使用を制限されるだろう。禁止またはライブストリーミングの永久禁止を引き起こすために必要なもの。

Facebookは、自社のプラットフォーム上で暴力的で危険なコンテンツを検出し、それに対抗するためにますますAIを使用するようになっていますが、そのアプローチは単純にうまくいきません。

英語以外の言語の課題を超えて – たとえば、CEOのMark Zuckerbergが主張したことにもかかわらず、FacebookのAI検出システムはミャンマーでは機能しませんでした – 検出システムはChristchurchの余波に対処するのに頑強ではありませんでした。

ストリーム自体は、終了してから12分経過するまでFacebookに報告されませんでしたが、Facebookは、後でそのサイトにアップロードされたライブストリームのビデオの20%をブロックできませんでした。実際、TechCrunchは攻撃から12時間以上経ってもFacebookにいくつかのビデオが残っているのを発見した。 ソーシャルネットワークが「虚栄心の統計」を選択するための努力 それはAIと人間のチームが管理下にあるものを持っていたことを示しているように見えました。

間接的にその失敗を認め、Facebookは「画像およびビデオ分析技術を向上させるために設計された、3つの大学からの主要な学者との新しい研究パートナーシップ」に750万ドルを投資すると述べた。

このイニシアチブの初期のパートナーにはメリーランド大学、コーネル大学が含まれます。 カリフォルニア大学バークレー校は、操作された画像、ビデオ、およびオーディオを検出するための技術を支援すると述べています。もう1つの目的は、メディアを意図的に操作している人々と「知らないうちに」そうしている人々との違いを特定するためにテクノロジーを使用することです。

Facebookは、このイニシアチブに他の研究パートナーを加えることを望んでいるとも述べた。

「ビデオやオーディオのマッチング技術など、最終的にこれらの亜種を見つけるために多くの技術を展開しましたが、これがさらなる研究に投資する必要がある分野であることを認識しました」とRosen氏はブログ記事で認めました。

Facebookの発表は、ニュージーランドの首相であるJacinda Ardernを含む世界有数の首脳の集まりが、有毒コンテンツとの闘いを強化するという誓約書に署名するようにハイテク企業に要求した後、1日も経たないうちに届きます。

フランス経済省に勤務している人々によると、クライストチャーチコールは新しい規制についての具体的な勧告を含んでいません。むしろ、国は暴力的で過激な内容によって彼らが何を意味するかを決めることができます。

「今のところ、それは特に複数の国にとって問題を引き起こしたイベントに焦点を当てています」と、フランスのデジタル大臣CédricOはジャーナリストとの説明会で述べました。