GoogleはSynthID Detectorを全世界のユーザーに開放し、画像、動画、音声ファイルがAIで作成されたものかどうかを確認できるようにしました。このツールは英語でSynthID Detectorのウェブサイトから利用でき、対応するメディアに埋め込まれた不可視のウォーターマークを検出します。

現在、Google、OpenAI、Nvidia、KakaoのAIツールに関連するウォーターマークを識別できます。Googleは、AppleのAIツールで作成されたメディアへの対応も近日中に追加すると説明しています。

GoogleのSynthID Detectorの仕組み

SynthIDは、画像、動画、音声の作成時に知覚できないウォーターマークを埋め込みます。Detectorはアップロードされたメディアをスキャンして信号を探し、そのファイルがAIで生成されたことを示す証拠を検出したかどうかを報告します。

この仕組みにより、目に見える痕跡や文体上の手がかりだけをもとにコンテンツを判定しようとするシステムとは異なります。ただし、Detectorの結果は、メディアに認識可能なSynthIDウォーターマークが付いているかどうかに左右されます。あらゆるAI生成ファイルを判定する万能な検査ツールとは説明されていません。

ユーザーにとっての手順は簡単になるよう設計されています。SynthID Detectorのウェブサイトにアクセスし、画像、動画、音声ファイルを送信して分析します。Googleはこれまで、選ばれたメディア専門家に初期版へのアクセスを提供していたほか、Geminiに個別のメディアを評価させることもできました。

識別できるAIプラットフォームは？

現在の一般公開版は、Googleと他の3つのAIプロバイダー、OpenAI、Nvidia、Kakaoがウォーターマークを付けたメディアに対応しています。Googleによると、近い将来Appleにも対応し、ツールで扱えるAIエコシステムの数が増える見込みです。

今回の発表では、Detectorがすべての生成AIサービスのコンテンツを識別できるとは述べられていません。そのため、照合結果が得られなかったファイルを、それだけで人間が作成した証拠とみなすべきではありません。対応するSynthIDウォーターマークが付いていないだけの可能性もあります。

Googleのウォーターマーク付与規模

Googleによると、2023年に技術を開始して以来、SynthIDを使って1800億点を超える画像と動画にウォーターマークを付けてきました。同社は同じ期間に「24万年分の音声コンテンツ」にもウォーターマークを付けたと説明しています。

Detectorの一般公開により、パブリッシャー、クリエイター、一般ユーザーは、疑わしいメディアを調査する新たな手段を得られます。合成画像、動画、音声が現実世界で撮影・録音されたものと見分けにくくなるなかで、特に役立つ可能性があります。

このツールの有用性は、対応するウォーターマークシステムがより広く導入されるかどうかに最終的に左右されます。現時点では、あらゆるデジタルファイルの出所を判定するのではなく、既知のSynthIDマーカーを直接確認する手段を提供しています。