InstagramはAI用のラベルに取り組んでいます

Jon Porter は、消費者向け技術リリース、EU 技術政策、オンライン プラットフォーム、メカニカル キーボードをカバーする 5 年の経験を持つ記者です。

Instagramは、プラットフォーム上でコンテンツを作成する際にAIがいつ役割を果たしたかを特定する新しい通知の作成に取り組んでいるようだ。

アプリ研究者のアレッサンドロ・パルッツィ氏は、公式に発表またはリリースされる前にInstagramの新機能を頻繁に発見しているが、Instagramアプリ内の「作成者またはメタは、このコンテンツはAIで作成または編集されたと述べた」と書かれたページのスクリーンショットを投稿した。 具体的な通知では、生成 AI とは何か、AI を使用した投稿を特定する方法について簡単に説明する前に、この場合は「メタ AI によって生成された」画像であると記載されています。

この発見は、Meta が Google、Microsoft、OpenAI などの他の主要な AI プレーヤーとともに、AI の責任ある開発についてホワイトハウスに約束した直後に行われました。 サイバーセキュリティと差別の研究への投資に加え、コンテンツが AI によって生成されたことをユーザーに通知する透かしシステムの開発もその取り組みの 1 つです。

Instagramのラベル付けシステムがどの程度自動化されるのか、画像の作成や編集にAIがいつ使用されたかをユーザーが開示することにどの程度依存するのかは正確には不明だ。 しかし、通知に「メタが言った」という文言が含まれているという事実は、少なくとも場合によってはハイテク企業がユーザー自身の正直さに頼るのではなく、積極的に通知を適用することを示唆している。 Metaの広報担当者はこの通知についてEngadgetへのコメントを拒否し、同社はThe Vergeのコメント要請にすぐには応じなかった。

まだ初期段階ではあるが、今年初めに着ぶくれしたふわふわのジャケットを着たローマ法王の写真がソーシャルメディア上で拡散したとき、私たちはすでにAIが生成する誤った情報がどのようなものかを体験している。 この事件では、比較的無害な画像が最終的に誤りであることが暴かれたものの、衛星画像や政治写真に適用されると、危険な誤情報を広める簡単なツールが現在存在するという警告とみなされた。

Meta は最近、大規模言語モデル LLaMA 2 をオープンソース化しましたが、Instagram などの自社製品向けの消費者向けの生成 AI 機能はまだ広くリリースされていません。 ただし、どのような種類の機能が開発されているかについて、いくつかのヒントがあります。 6月の全員会議で、最高経営責任者（CEO）のマーク・ザッカーバーグ氏は、メタ社がインスタグラムストーリー用の写真を修正するためにテキストプロンプトを使用するなどの機能を開発していると述べたとアクシオスが報じ、アプリ研究者のパルッツィ氏もインスタグラム向けの「AIブラシ」機能の兆候を発見したと述べた。画像の「特定の部分を追加または置き換える」。 フィナンシャル・タイムズ紙は最近、メタ社が来月にもAIチャットボットの「ペルソナ」機能を自社製品に統合する可能性があると報じた。

メタ以外にも、Google はすでに、画像が AI によって生成されたものであるかどうかをユーザーが簡単に判断できるようにする新しいツールを発表しました。 その「この画像について」機能は今夏に開始され、画像が検索大手によってインデックスされた最初の場所を強調表示し、その起源を知るための重要な手がかりを提供するように設計されています。

/ Verge Deals にサインアップすると、テスト済みの製品に関するセールが毎日受信箱に送信されます。