マシンラーニングを活用

Instagram、写真やライブ動画での“いじめ行為”防止機能。いじめ写真自動検出/コメント自動ブロック

編集部:小野佳希
2018年10月12日
Instagramは、ユーザーがアップロードした写真やライブ動画上に対する“いじめ行為”を防ぐための機能を導入した。

コメントコントロールの設定画面

同社では、「投稿の大半はポジティブな内容であるものの、残念ながら時には嫌がらせやいじめを目的に写真がシェアされることもあります。また、いじめ行為にあたる投稿を目にしたり、嫌がらせにあったりしても、自分から報告しない利用者も多くいます」と、今回の新機能導入の背景を説明。

これを受け、機械学習(マシンラーニング)を活用し、いじめと思われる写真やキャプションを検出する技術を導入した。検出された投稿はコミュニティオペレーションチームが内容を確認し、コミュニティガイドラインに違反するものは削除の対象になる。この機能は、今後数週間かけて導入される予定。

また、いじめコメントを自動的にブロックし、非表示にするフィルターを、ライブ動画にも導入。これまではフィード投稿、エクスプローラ(Explore)ページ、プロフィールに適用されていたが、今後はライブ動画上のいじめコメントもフィルタリングする。この機能はすでに導入済みで、日本語にも対応している。

関連リンク

関連記事