Googleは、写真・動画・音声ファイルにAI生成コンテンツ向けの見えない透かしが含まれているか確認できるSynthID Detectorを、英語版として世界中のユーザーに提供します。ウェブベースのこのツールを使うには、メディアをアップロードして分析する前にログインする必要があります。

SynthID Detectorは、昨年、まずメディア関係者に提供されました。今回の一般公開によって、対応する生成AIツールで作成されたコンテンツを識別するシステムを利用できる人が増えますが、Googleは重要な制限があると説明しています。

GoogleのSynthID Detectorの仕組み

SynthIDは、AIで生成されたコンテンツにデジタル透かしを埋め込みます。この透かしは人には見えないよう設計されていますが、Googleの検出器はアップロードされたファイルをスキャンし、その存在を確認できます。ユーザーはSynthID Detectorのウェブサイトから写真、動画、音声を送信できます。

陽性結果が示すのは、そのファイルに対応するAI生成メディアに関連付けられたSynthID透かしが含まれているということです。この技術は、閲覧者や聴取者から見える形でコンテンツを変更することなく、出所を示すシグナルを提供することを目的としています。

万能なAI検出器ではない

Googleによると、SynthID Detectorは、完全にAIで作成されたコンテンツと、AIを使って編集されたメディアを区別できません。また、インターネット上にあるすべての合成メディアを識別できるわけでもありません。このシステムが検出できるのは、SynthID技術を使ったコンテンツだけです。

つまり、SynthID透かしが見つからなかったからといって、そのファイルが人間によって作られた証拠にはなりません。他の透かしシステムを使って作成されたメディアや、透かしが付いていないメディアは、ウェブサイトで識別できない可能性があります。

SynthIDに対応するAIプラットフォームは？

Googleによると、SynthID Detectorは、Google、OpenAI、Nvidia、KakaoのAIシステムを使って生成されたメディアを識別できます。Appleも今年後半にSynthIDをサポートする予定で、これによりサービスが確認できるコンテンツの範囲が広がる可能性があります。

各社が対応していても、この検出器が汎用的な真正性確認サービスになるわけではありません。結果は、該当するコンテンツ生成システムがSynthIDを適用したかどうか、そしてアップロードされたファイル内で透かしを検出できる状態が維持されているかどうかに左右されます。

Google製品にもSynthIDチェックを搭載

専用の検出器にアクセスしたくないユーザーは、すでにGoogle Search、Gemini、Chromeを通じてSynthIDチェックを利用できます。Googleは、これらの連携機能をSynthID Detectorのウェブサイトにファイルを直接アップロードする代替手段として位置付けています。

今回の幅広い展開により、研究者、出版社、一般ユーザーは、デジタルメディアの出所を調べる新たな手段を得ることになります。ただし、Google自身の説明からも、透かしの検出はコンテンツ検証の一部であり、メディアがAIによって作成または編集されたかどうかを確定する決定的なテストではないことが分かります。