【日本語・コピペOK】SNS施策×ChatGPTのプロンプト例・使い方ガイドを公開中！
Meta（メタ）は、Instagram（インスタグラム）の新たな人工知能（AI）ツールを使用して、他人の投稿をリミックスできる新機能を削除しました。この機能は全ユーザーがデフォルト（初期設定）で「オン」にされていたため、多くのユーザーから激しい反発を招いていました。
「デフォルトで許可」が招いた大炎上
画像：Meta removes Instagram’s AI remix option
先週、Metaはこれまでで最も高度な画像・動画生成AIツールである「Muse（ミューズ）」モデルを発表しました。その一環として、Instagram上で他のユーザーの公開コンテンツをAI生成に組み込むことができる新機能が発表されました。これは、AIの作成プロセス内で対象のプロフィールを「@メンション」するだけで、他人の投稿を利用できるというものです。
問題視されたのは、この機能がすべての公開アカウントで「デフォルトで有効」にされていた点です。他のユーザーに自分の投稿をAIで再利用されたくない場合、ユーザー自身が明示的に設定を変更し、「オプトアウト（利用拒否）」する必要がありました。
当然のことながら、この仕様は多くのInstagramユーザーの怒りを買いました。この機能がもたらすポジティブな側面よりも、悪用される危険性の方がはるかに高いことは火を見るより明らかだったからです。米エンターテインメント誌『Variety』の報道によれば、複数のタレントエージェンシーが「なりすましや悪用の温床になる」と即座に懸念を表明し、所属クライアントにオプトアウトするよう警告する事態にまで発展しました。
▼関連記事
わずか2日での撤回劇
批判の大きさを重く受け止めたMetaは、発表からわずか2日後にこの機能を取り下げることを決定しました。
Metaは次のような声明を出しています。
「今週初め、Meta AIで画像を生成する新たな方法として、参照したい公開Instagramアカウントを@メンションする機能を発表しました。私たちの目的は、便利なクリエイティブツールを提供することと、自分の公開コンテンツがこのように参照されるかどうかをユーザー自身がコントロールできるようにすることでした。しかし、この機能が期待外れであったという皆様からのフィードバックを受け、提供を終了することにいたしました。」
Metaが迅速に機能を削除したこと自体は、ユーザーの声に耳を傾けている証拠として評価できるかもしれません。しかし、そもそもなぜこのようなリスクの高い機能が初期設定で有効化されていたのか、同社の「イノベーション至上主義」に対して重大な疑問が投げかけられています。
▼関連記事
変わらない「素早く動き、破壊せよ」の精神
Metaは長年、テクノロジーの限界を押し広げることを追求してきました。Facebook時代の初期の社内モットーであった「素早く動き、破壊せよ（Move fast and break things）」は、まさにその姿勢を象徴しています。しかし、このアプローチは結果として、データプライバシーの侵害、子供への悪影響、SNS依存症、そしてSNSの政治的悪用といった深刻な問題を引き起こしてきました。
SNSが社会にもたらした繋がりのメリットを考慮しても、総合的に見て社会にとってプラスだったと断言するのは困難です。もしMetaを含むプラットフォーム企業がもっと責任あるアプローチをとっていれば、これらの悪影響の多くはもっと早い段階で対処できたはずです。
初期の段階では、SNSがもたらす害の全容が完全には理解されていなかったため、Metaなどの企業はユーザーの獲得と滞在時間の延長、そして広告収入の増加に邁進しました。しかし、SNS時代が始まって約20年が経過した現在、これらのプラットフォームが引き起こす潜在的な害は広く認識されています。だからこそ、VRやAIといった新技術を大規模に展開する前に、適切な安全策（セーフガード）を講じるべきなのです。
しかし明らかなのは、Metaが自らを厳しく規制するつもりはないということです。
規制とイノベーションの狭間で問われるAIの安全性
現在Metaは、将来のプラットフォームの悪影響を軽減するための法規制に反対すべく、次期トランプ政権との関係強化を図り、政府の支援を取り付けようと動いています。
その一方で、厳格な対応を見せているのがヨーロッパ（EU）です。EU委員会は、データ利用やSNSの新機能に対する規制を継続的に強化しており、例えばMetaに対しては、影響評価が完了するまでEUのユーザー向けAIチャットボットツールの導入を延期するよう命じました。これらの規制は、潜在的な害を評価し、ユーザーを保護するために設計されています。また、EUは規制違反を理由に、過去3年間でMetaに対して年間10億ドル（約1,500億円）以上の罰金を科しています。
Metaはこのような規制による遅れを「ビジネス目標の障害」であり、「収益機会の損失」であると見なしています。しかし、影響をほとんど考慮せずに潜在的に危険なAIツールを平気でリリースしようとする今回のMetaの姿勢を見れば、EUの慎重なアプローチがいかに妥当であるかがわかります。
一方、アメリカ政府はAI開発競争で世界の主導権を握るため、AIプロジェクトを支援し、規制の緩和を進めようとしています。しかし、今回のような明らかな判断ミスを目の当たりにすると、「Metaのような企業にAIシステムのリリースの管理を任せても本当に大丈夫なのか？」という疑問が湧いてきます。
人々がAIチャットボットに依存してしまったらどうなるのか？ AIとの相互作用が人間の精神状態にどのような影響を与えるのか？ そして、社会全体にどのような影響を及ぼすのか？
テクノロジーの進歩が優先されるあまり、こうした重大な懸念が脇に追いやられているように見えます。今回の「AIリミックス機能」の騒動は、悪用の危険性を考慮せず、無自覚に開発を推し進めようとする姿勢を再び浮き彫りにしました。
10年後、私たちの社会はこの瞬間を振り返り、「なぜもっと慎重にならなかったのか」「なぜこのような機能のリリースを止めなかったのか」と問いかけているかもしれません。
もしSNSアカウントの運用代行や広告配信サービスにご興味がある方は、合計19,000件以上の豊富な支援実績を持つFind Modelにぜひご相談ください。
お気軽にご相談ください
▼関連記事
▼おすすめ資料をダウンロードする
あなたにおすすめの関連記事
