【日本語・コピペOK】SNS施策×ChatGPTのプロンプト例・使い方ガイドを公開中！
画像：Meta AI adds additional safety measures
Meta（メタ）は、若年層のユーザーが同社のAIチャットボット「Meta AI」とセンシティブな話題についてやり取りした際、保護者にアラートを送信する新たな安全機能を追加しました。このアップデートにより、保護者は子どものAI利用に関連する潜在的なリスクをいち早く把握できるようになります。
自殺や自傷行為のリスクを検知して保護者に通知
今回のアップデートの最大のポイントは、10代の若者が自殺や自傷行為に関する話題をAIとチャットした際に、保護者へ通知が送られる仕組みです。アラートには、関連するサポート窓口へのリンクも添えられます。
Metaの説明によると、これまでは若者が自殺や自傷行為をほのめかした場合、AIが危機管理ヘルプラインを案内し、保護者やカウンセラーなどの信頼できる大人に相談するよう促すだけでした。しかし今後は、専門家と共同で開発された検知シグナルに基づき、リスクがあると判断された場合には、保護者に対してもプロアクティブ（能動的）にアラートが送信されます。
当初は安全性を最優先し、幅広いシグナルを拾うように設定されていますが、保護者に過度な不安を与えないよう、同社はメッセージ内容の改善を続けていくとしています。
このアラート機能は現在、アメリカ、イギリス、オーストラリア、カナダにおいて「Instagramのペアレンタルコントロール機能」を利用している保護者向けに提供が開始されており、年末までには世界中で利用可能になる予定です。また、この機能の追加については、10代のユーザー本人にも通知されます。
▼関連記事
AIにメンタルヘルスの悩みを相談する若者が急増
こうした対策が急務となっている背景には、サポートやアドバイスを求めてチャットボットを利用する若者が増えている現状があります。
以前発表されたブラウン大学、ハーバード大学医学部、ランド研究所の共同研究によると、アメリカの10代および若年成人の約8人に1人が、メンタルヘルスに関するアドバイスをAIチャットボットに求めていることが分かりました。また、Common Sense Mediaが今年初めに発表した調査でも、10代の72%が何らかのAIコンパニオンを試したことがあり、12%が感情面やメンタルヘルスのサポートに利用しているという結果が出ています。
緊急機関への通報システムと年齢に応じた安全設定
保護者向けのアラートに加え、Metaは年齢を問わず、Meta AIとの会話から「差し迫った自殺のリスクがある」と判断された場合に、緊急通報サービス（警察や救急など）に自動で連絡する新たなシステムも開発中です。
同社はすでにFacebookやInstagramの投稿から深刻な自殺リスクを検知した際に緊急機関へ通報する取り組みを行っており、昨年は世界中で19,000件以上の通報を実施し、救急隊員による安否確認に貢献しています。新システムはこれをAIチャットにも拡張するものです。
さらにMetaは、若者がMeta AIを利用する際、「13歳以上向けコンテンツ設定」が自動的に適用されることを改めて強調しました。これにより、AIは未成年との性的・ロマンチックな会話を避けたり、アルコール飲料のレシピ提供を拒否したりと、年齢に応じた安全な話題へと誘導するよう訓練されています。
▼関連記事
未知数なAIの長期的影響
今回の発表は、過去にMetaのAIチャットボットが未成年と不適切な会話を行っていたという報道を受けた一連の改善策の一環です。今年4月にも、保護者が子どものAIへの質問内容を確認できる監視機能が追加されていました。
これらのアップデートを組み合わせることで、若者の安全性が大きく向上することが期待されます。しかし一方で、AIとの深いコミュニケーションが、若者や大人に対して長期的にどのような影響を与えるのかは未だ解明されていません。
今週、中国の規制当局が有害な影響への懸念からAIチャットボットとの疑似恋愛を禁止する動きを見せるなど、世界中で議論が呼んでいます。AI利用に伴う真のダメージは、後になってからでなければ測ることができないという懸念は、依然として残されています。
もしSNSアカウントの運用代行や広告配信サービスにご興味がある方は、合計19,000件以上の豊富な支援実績を持つFind Modelにぜひご相談ください。
お気軽にご相談ください
▼関連記事
▼おすすめ資料をダウンロードする
あなたにおすすめの関連記事
