Snapchatは、年齢フィルターや親の情報、AIチャットボットを改善するためのその他のツールを開発しています。
Snapchatは、Snapchat+のサブスクリプションユーザー向けのGPTボットをローンチした後、ワシントンポスト紙は、このボットが危険かつ不適切な方法で応答していることを強調しました。
Snapは、「ガイドラインに従わない応答を提供しようとする人がいることを学んだ」と述べ、新しいツールはAIの応答をチェックするためにあると説明しています。
年齢フィルターは、ユーザーの誕生日をチャットボットに伝え、その年齢に応じた応答をするようにします。
近々、Snapは昨年8月にローンチしたFamily Centerで、親または保護者に対して子供のチャットボットとのやりとりやその頻度に関する情報を提供する予定です。親または保護者とティーンエイジャーの両方がこの親権制御機能を使用するためには、Family Centerにオプトインする必要があります。
Snapは、ブログ投稿の中で、My AIチャットボットは「本当の友達ではない」と説明し、その応答を改善するために会話履歴に頼っていると説明しています。
Snapは「非適合言語に該当する」と定義される暴力、性的な用語、違法薬物使用、児童性的虐待、いじめ、ヘイトスピーチ、侮辱的または偏見を持った発言、人種差別、女性嫌悪、または少数グループをマージャライズするすべての発言を0.01％しか提供していないと述べています。
Snapは、不適切な応答は、ユーザーの言葉を真似している場合がほとんどであると説明しています。また、誤用するユーザーには一時的にAIボットのアクセスをブロックすることも発表しました。
Snapは、幅広いジェネレーティブAIツールに対して非常に前向きです。先週、人工知能とデジタル政策センターの倫理グループが米国連邦取引委員会に書簡を送り、OpenAIのGPT-4モデルの展開を一時停止し、その技術は「偏見、欺瞞的であり、プライバシーや公共安全のリスクを引き起こす」と主張しました。
昨月、コロラド州民主党の米国上院議員マイケル・ベネットは、OpenAI、META、Google、Microsoft、およびSnapに宛てて、ティーンエイジャーに利用されるジェネレーティブAIツールに関する懸念を表明する書簡を送りました。
これらのAIモデルが有害な入力に対して脆弱であり、不適切な応答を出力する可能性があることは明らかです。テック企業はこれらのツールを迅速に展開したいと考えているかもしれませんが、彼らは誤用を防ぐために十分なガードレールがあることを確認する必要があります。
元記事はこちら
