インスタのエロ画像規制と裏に潜むリスク:Metaの検知技術からスパム被害の防ぎ方までを解説

インスタのエロ画像規制と裏に潜むリスク:Metaの検知技術からスパム被害の防ぎ方までを解説の主要なニュースを専門的かつ分かりやすくまとめました。全体像を一目で把握できます。

Metaは毎日何億枚とアップロードされる画像を監視するため、人間のモデレーターと並行して最新の人工知能(AI)を投入しています。中心となるのは「PDQハッシュ」と呼ばれるデジタル指紋技術と、深層学習を用いた画像認識モデルです。

過去に違反と判定された画像のデータハッシュ値と照合することで、少しトリミングされたり色味が変更された画像であっても即座に自動検知できます。さらに、自然言語処理AI「DeepText」が、キャプションやコメント欄に記載された不適切な符丁(伏字や隠語)をリアルタイムで解析しています。

サイバーセキュリティとソーシャルメディアの脅威を図式化したイメージ

アカウントの露出を激減させるシャドウバンの実態

完全な凍結に至らないグレーゾーンの投稿に対しては、「シャドウバン(Shadowban)」と呼ばれる利用制限が課されます。これは、アカウント所有者に通知することなく、ハッシュタグ検索やおすすめフィードへの表示を限定する仕組みです。規約の裏をかいて過激な画像を投稿し続けるアカウントは、この暗黙のペナルティによって拡散力を奪われます。

伊藤 翔太

伊藤 翔太

フード&トラベルライター

マネー知識やキャリア形成に役立つノウハウを、初心者にも分かりやすく解説するのが得意です。