Poverenia obsahu riešenie pre AI Deepfakes: Adobe Exec

Vďaka AI je ťažké rozlíšiť, čo je skutočné a čo nie, najmä na fotografiách a videách. To viedlo k deepfakeszavádzajúce robotické hovory AI, obvinenia z falošných AI davova dezinformáciektorá sa pred novembrovými prezidentskými voľbami len rozbieha.

Andy Parsons, hlavný riaditeľ iniciatívy Content Authenticity Initiative v Adobe, však hovorí, že problém by sa dal vyriešiť pomocou inej technológie: poverenia obsahu.

Tieto „výživové štítky“ informácií sú vložené do metadát digitálneho obsahu a fungujú ako neviditeľný vodoznak, ktorý ukazuje, či bolo niečo vytvorené pomocou AI. Oni odpovedať na otázky o tom, ako bol obsah vytvorený a či bol vytvorený alebo upravený pomocou AI.

Tvorcovia môžu pridať poverenia obsahu ku všetkému, čo vytvoria v programoch, ako je napríklad Photoshop a Microsoft Designer.

“Táto úroveň transparentnosti môže pomôcť rozptýliť pochybnosti, najmä počas najnovších správ a volebných cyklov,” povedal Parsons Podnikateľ.

Ako Big Tech používa poverenia

OpenAI už používa prihlasovacie údaje v obrázkoch vytvorených generátorom obrázkov DALL·E 3 AI ako súčasťou jeho prístupu do volieb v roku 2024. Google skúma poverenia určiť, odkiaľ obsah pochádza z jej produktov vrátane služby YouTube. A v októbri Leica vydala prvý fotoaparát na svete ktorý automaticky pridáva prihlasovacie údaje k obrázkom nasnímaným pomocou neho.

Medzitým sa v máji stal TikTok prvá platforma sociálnych médií používať prihlasovacie údaje k obsahu na zisťovanie a automatické označovanie obsahu ako „vygenerovaný AI“, ak je to vhodné.

Parsons hovorí, že „rozšírené prijatie“ poverení platformami sociálnych médií by „vytvorilo reťaz dôvery“.

„To umožní spotrebiteľom overiť si podrobnosti sami a umožní to, aby sa dobrým aktérom dalo dôverovať,“ povedal.

Adobe je členom riadiaceho výboru iniciatívy Content Authenticity Initiative, spolu s Google, Microsoft, Sony, Intel a viac ako 2 000 ďalších spoločností.