Ikke tro på alt du ser på internett. Og med fremveksten av hyperrealistiske videogeneratorer har det blitt nærmest umulig for det blotte øye å skille mellom en opptak av virkeligheten og en sekvens som er fantasert frem av en serverfarm i California.
Men nå kommer Google med en løsning som minner litt om det gamle ordtaket om at det må en tyv til for å fange en tyv. Hvis du er usikker på om en video er laget ved hjelp av KI, kan du nå spørre… en KI!
Google har begynt å rulle ut en funksjon i chatboten Gemini som lar brukerne laste opp eller lenke til en video og ganske enkelt spørre: «Er denne videoen laget med AI?»
Det usynlige vannmerket
Teknologien bak avdukingen kalles SynthID. Det er egentlig ikke en ny oppfinnelse, men den har levd et stille liv i maskinrommet hos Google DeepMind. Nå blir den fritt tilgjengelig i chatboten Gemini.
SynthID fungerer ved å legge inn et digitalt vannmerke direkte i pikselkomposisjonen til bilder, lyd eller video mens de genereres. I motsetning til vannmerker på arkivbilder eller TV-stasjonslogoer i hjørnet, er SynthID usynlig for det menneskelige øye og påvirker ikke opplevelsen av videoen.
Det er som å ha en innbruddsalarm som bare reagerer på innbruddstyver som bærer navneskilt.
Men for en algoritme lyser det op som et neonskilt.
Tanken er at selv om en video beskjæres, endrer farger eller komprimeres til det ugjenkjennelige på sosiale medier, vil det digitale fingeravtrykket bestå. Og det er dette fingeravtrykket Gemini nå har blitt opplært til å lete etter.
Virker kun på Googles eget materiale
Det høres ut som den hellige gral i kampen mot desinformasjon og deepfakes. Men før du lener deg tilbake i stolen og stoler blindt på oraklet fra Mountain View, er det et stort og veldig viktig «men».
Gemini kan bare pålitelig oppdage videoer som har et SynthID-vannmerke.
Det betyder i praksis, at systemet er fremragende til at spotte videoer skabt med Googles egne værktøjer, såsom videogeneratoren Veo eller billedgeneratoren Imagen 3.
Men hvis videoen er skabt med OpenAI’s Sora, Runway, eller et af de utallige open-source modeller, der florerer på nettet, og som ikke understøtter SynthID-standarden, så er Gemini lige så meget på herrens mark som vi andre kødelige.
Det er, lidt firkantet sagt, som at have en tyverialarm, der kun reagerer på indbrudstyve, der bærer navneskilt.
Et skritt i retning av en standard
Google har gjort SynthID-teknologien tilgjengelig for andre, og de oppfordrer naturligvis hele bransjen til å ta i bruk standarden. Hvorvidt konkurrenter vil ønske å bruke en Google-utviklet standard for å merke innholdet sitt, gjenstår å se.
Inntil da er den nye funksjonen i Gemini et nyttig verktøy, men ikke en endelig dommer. Hvis Gemini sier at en video er KI-generert, kan du stole på det. Hvis den sier «jeg vet ikke», kan det bety at videoen er ekte. Eller at den er falsk, men laget av en konkurrent.
Så det er ikke sikkert vi kan unngå å bruke sunn fornuft på en stund ennå.
Kilde: Google
