Snapchatは、昨年の新機能「Family Center」を通じてアプリでの親の監視を開始しました。本日、同社はオンラインプライバシー・セキュリティ・ハブのポストを通じて、抑制することができる敏感な内容や挑発的な内容として識別されたコンテンツを親が制限することができるコンテンツフィルタリング機能を追加することを発表しました。
この機能を有効にするには、親はSnapchatのFamily Center内の「敏感なコンテンツを制限する」フィルターをオンにすることができます。これにより、ティーンエイジャーはストーリーやSpotlight（プラットフォームのショートビデオセクション）にブロックされたコンテンツを見ることができなくなります。つまり、このフィルターをオンにしても、チャット、スナップ、および検索で共有されるコンテンツには影響がないことが明記されています。
これに伴い、Snapchatは、StoriesやSpotlightのクリエイターがプラットフォーム上で推奨される投稿の種類や、コミュニティガイドラインに基づいて敏感とされるコンテンツについてのより詳しい情報を提供するために、このようなガイドラインを初めて公開することになりました。このプラットフォームは、Snap Starsプログラムの一部のクリエイターやメディアパートナーとこれらのガイドラインを共有したことがあり、今回は公式のウェブサイトのページ上で誰でもこれらのガイドラインを閲覧することができます。
同社は、すでにヘイトコンテンツ、テロ活動、暴力的な極端主義、違法な活動、有害な虚偽または誤解を招く情報、ハラスメントやいじめ、暴力の脅威などのコンテンツがプラットフォームに掲載されないようにしてきました。しかし、今後のガイドラインでは、さまざまなカテゴリーの下で何らかのコンテンツが「敏感」と見なされることが明確になります。これは、新しいコントロールにより、ティーンエイジャーの目からブロックされることがあります。
たとえば、性的コンテンツのカテゴリーでは、Snapは、「全裸、衣服を着た場合でも、性行為の描写、AI画像の場合も含めすべて」といった内容や「セックス行為を説明する露骨な言葉、セックスワーク、 TABOOS、性器、性玩具などの内容、露骨に挑発的な画像、不適切で侮辱的な性的コンテンツ、マニピュレートされたメディア」が含まれる場合は、「敏感」として認識される旨に説明します。
このほか、ハラスメント、不快または暴力的なコンテンツ、虚偽または誤解を招く情報、違法または規制された行為、ヘイトコンテンツ、テロ行為、暴力的な極端主義、商業コンテンツ（承認されていないクリエイターからの露骨な勧誘）など、他のカテゴリーで何が「敏感」と見なされるかも詳しく説明されています。これには薬物の描写、エンゲージメントの誘惑（「じっくり見て」など）、自傷行為、身体変形、ゴア、ニュースでの暴力、人間の身体の病気のグラフィック画像、動物の苦痛、暴力的あるいは性的犯罪に関する分布を扱った煽りのかかった報道、危険な行為など、さまざまなコンテンツが含まれます。
ただし、新しい機能は若年層に対していくつかのエリアで敏感なコンテンツを制限する一方、米国議会が指摘した分野の1つであるDiscoverフィードに対して取り組んでいません。ここでは、Snapが感度が高いと考えられる（ガイドラインに基づいて）コンテンツを掲載する出版社のコンテンツが紹介されています。ほとんどがクリックベイトです。しかし、Discoverフィードは新しいコントロールで対処されていません。
さらに、この機能は、親が何も知らない可能性があるトグルをオンにすることを求めています。
要するに、SNS企業に対する法律や規制の欠如が、このような自己規制を促し、若年ユーザーを守るために十分ではないことの例です。
コンテンツ制御に加えて、Snapはティーンエイジャーの新しいMy AIチャットボットの使用状況をより確認・管理できるようになるツールの追加にも取り組んでいると発表しました。
先月、同社は、Snapchat+サブスクリプションの下でOpen AIのGPT技術を搭載したこのチャットボットを立ち上げました。ちょうどその矢先、チャットボットが13歳の触れ込みのユーザーに性的アドバイスを与えたり、大麻やアルコールの臭いを隠す方法を示唆するなど、偽のティーンエイジャーとして振る舞っていたワシントン・ポストのコラムニストに対して失敗したことが報じられました。別の報告によると、Snapchatは、13歳のユーザーに偽の毛利投資アドバイスを与えた疑惑に直面しました。
チャットボットに対する追加ツールは、まだ展開されていません。
