Google åpner SynthID Detector for alle over hele verden og gir brukerne en måte å sjekke om et bilde, en video eller en lydfil er laget med KI. Verktøyet er tilgjengelig på engelsk via SynthID Detector-nettstedet og leter etter usynlige vannmerker som er innebygd i støttede medier.

Detector kan for øyeblikket identifisere vannmerker knyttet til KI-verktøy fra Google, OpenAI, Nvidia og Kakao. Google sier også at støtte for medier laget med Apples KI-verktøy kommer snart.

Slik fungerer Googles SynthID Detector

SynthID bygger inn umerkelige vannmerker i bilder, video og lyd under skapelsesprosessen. Detector skanner opplastede medier etter disse signalene og rapporterer om den finner tegn på at filen er generert med KI.

Denne tilnærmingen skiller verktøyet fra systemer som forsøker å vurdere innhold utelukkende basert på synlige artefakter eller stilistiske kjennetegn. Resultatene fra Detector avhenger imidlertid av om mediet har et SynthID-vannmerke som verktøyet kan gjenkjenne. Det beskrives ikke som en universell test for alle KI-genererte filer.

For brukerne skal prosessen være enkel: Gå til SynthID Detector-nettstedet og send inn et bilde, en video eller en lydfil for analyse. Google tilbød tidligere tilgang til en tidlig versjon for utvalgte mediefolk, mens Gemini også kunne bes om å vurdere enkeltmedier.

Hvilke KI-plattformer kan verktøyet identifisere?

Den offentlige versjonen dekker for øyeblikket medier som er vannmerket av Google og tre andre KI-leverandører: OpenAI, Nvidia og Kakao. Google sier at Apple-støtte vil bli lagt til i nær fremtid, noe som utvider antallet KI-økosystemer som er representert i verktøyet.

Kunngjøringen sier ikke at Detector kan identifisere innhold fra alle generative KI-tjenester. Derfor bør en fil som ikke gir treff, ikke automatisk behandles som et bevis på at den er laget av et menneske. Det kan ganske enkelt hende at den mangler et støttet SynthID-vannmerke.

Omfanget av Googles vannmerking

Google sier at selskapet har brukt SynthID til å vannmerke mer enn 180 milliarder bilder og videoer siden teknologien ble lansert i 2023. Selskapet sier også at det har vannmerket «240,000 years of audio content» i samme periode.

At Detector nå blir offentlig tilgjengelig, kan gi utgivere, skapere og vanlige brukere en ny måte å undersøke mistenkelige medier på. Det kan bli spesielt nyttig etter hvert som syntetiske bilder, videoer og lyd blir vanskeligere å skille fra opptak som er gjort i den fysiske verden.

Hvor nyttig verktøyet blir, vil til syvende og sist avhenge av bredere bruk av kompatible vannmerkingssystemer. Foreløpig tilbyr det en direkte måte å sjekke etter kjente SynthID-markører på, i stedet for å forsøke å fastslå opprinnelsen til hver eneste digitale fil.