Prepoznavanje porijekla sadržaja generiranog umjetnom inteligencijom postaje ključno zbog višestrukih razloga: osiguravanja transparentnosti, izgradnje povjerenja korisnika, borbe protiv dezinformacija, poticanja etičkih rasprava, zaštite autorskih prava, sprječavanja zloupotrebe AI-ja, usklađenosti s nadolazećim propisima te očuvanja vrijednosti ljudske kreativnosti.
Google stvara digitalni vodeni žig za AI sadržaj
Nedavno se Google oglasio objavom u kojoj potvrđuje daljnja ulaganja u razvoj alata i rješenja koji će korisnicima omogućiti bolje razumijevanje kako je određeni sadržaj stvoren i kako se mijenjao tokom vremena. Jedan od takvih alata, predstavljen proljetos, je SynthID, tehnologija koju je razvio Google DeepMind, sistem digitalnog vodenog žiga dizajniran specifično za označavanje sadržaja generiranog umjetnom inteligencijom.
U objavi na svom blogu, Google javlja da se pridružio Koaliciji za porijeklo i autentičnost sadržaja (C2PA) kao član upravnog odbora te je aktivno sudjelovao u razvoju nove verzije (2.1) tehničkog standarda Content Credentials. Ova nadogradnja donosi pojačanu zaštitu od šireg spektra napada manipulacije.
Implementacija u pretraživanje, oglase, YouTube
U narednim mjesecima, navode da planiraju implementirati najnoviju verziju Content Credentials u nekoliko svojih ključnih proizvoda, uključujući Google pretraživanje, Googleove oglasne sisteme i YouTube.
U Google pretraživanju, funkcija "O ovoj slici" omogućit će korisnicima uvid u to je li slika stvorena ili uređena AI alatima, ako sadrži C2PA metapodatke. I Googleovi oglasni sistemi počinju integrirati C2PA metapodatke. Također, istražuju se načini prenošenja C2PA informacija gledateljima na YouTubeu kada je sadržaj snimljen kamerom.
Većina ne nudi oznake za C2PA podatke
Međutim, uprkos Googleovom vodstvu u usvajanju C2PA standarda autentifikacije, stanje nije zadovoljavajuće. Prema pisanju TheVergea, trenutno samo neke kamere proizvođača Leica i Sony podržavaju C2PA-ov otvoreni tehnički standard. Ovaj standard fotografijama dodaje metapodatke o postavkama kamere, kao i podatke o datumu i lokaciji snimanja. Iako su se Nikon i Canon obvezali usvojiti C2PA standard, još uvijek se čeka potvrda hoće li Apple i Google implementirati C2PA podršku u iPhone i Android uređaje.
Na softverskom frontu, Adobeove aplikacije Photoshop i Lightroom mogu dodavati C2PA podatke, ali mnogi drugi popularni alati za obradu slika, poput Affinity Photo i GIMP-a, trenutno ne podržavaju ovu funkcionalnost. Dodatna prepreka je način na koji će se ovi podaci prikazivati korisnicima, s obzirom na to da većina velikih online platformi još uvijek ne nudi oznake za C2PA podatke.
Kompanija se također pridružila nekoliko koalicija i grupa fokusiranih na sigurnost AI-ja i istraživanje te je predstavila Okvir za sigurni AI (SAIF).
Smatra se da bi Googleovo usvajanje C2PA standarda u rezultatima pretraživanja moglo potaknuti druge firme da uvedu slične oznake, što bi značajno doprinijelo transparentnosti digitalnog sadržaja i izgradnji povjerenja korisnika u online okruženju.
