Microsoft, OpenAI, Google a ďalší súhlasia s tým, že budú bojovať proti deepfake súvisiacim s voľbami

Koalícia 20 technologických spoločností podpísala v piatok dohodu, ktorá má pomôcť zabrániť AI deepfake v kritických voľbách v roku 2024, ktoré sa konajú vo viac ako 40 krajinách. OpenAI, Google, Meta, Amazon, Adobe a X sú medzi spoločnosťami, ktoré sa pripojili k paktu, aby zabránili obsahu generovanému AI, ktorý by mohol ovplyvniť voličov, a bojovali proti nemu. Nejasný jazyk dohody a nedostatok záväzného presadzovania však spochybňujú, či ide dostatočne ďaleko.

Zoznam spoločností, ktoré podpísali „Technickú dohodu o boji proti podvodnému používaniu AI vo voľbách v roku 2024“, zahŕňa spoločnosti, ktoré vytvárajú a distribuujú modely AI, ako aj sociálne platformy, na ktorých sa s najväčšou pravdepodobnosťou objavia hlboké podvody. Signatári sú Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic a X (predtým Twitter ).

Skupina opisuje dohodu ako „súbor záväzkov nasadiť technológiu proti škodlivému obsahu generovanému AI, ktorého cieľom je oklamať voličov“. Účastníci dohody sa dohodli na nasledujúcich ôsmich záväzkoch:

• Vývoj a implementácia technológie na zmiernenie rizík súvisiacich s klamlivým AI volebným obsahom vrátane nástrojov s otvoreným zdrojom, ak je to vhodné

• Posudzovanie modelov v rámci tejto dohody s cieľom pochopiť riziká, ktoré môžu predstavovať v súvislosti s klamlivým volebným obsahom AI

• Snažia sa zistiť distribúciu tohto obsahu na svojich platformách

• Snažia sa primerane riešiť tento obsah zistený na svojich platformách

• Podpora medziodvetvovej odolnosti voči klamnému volebnému obsahu AI

• Poskytovanie transparentnosti verejnosti, pokiaľ ide o to, ako sa k tomu spoločnosť pristupuje

• Pokračovanie v kontakte s rôznorodým súborom globálnych organizácií občianskej spoločnosti, akademikov

• Podpora úsilia o zvýšenie povedomia verejnosti, mediálnej gramotnosti a odolnosti celej spoločnosti

Dohoda sa bude vzťahovať na zvuk, video a obrázky generované AI. Zaoberá sa obsahom, ktorý „klamlivo falšuje alebo mení vzhľad, hlas alebo činy politických kandidátov, volebných činiteľov a iných kľúčových zainteresovaných strán v demokratických voľbách, alebo ktorý poskytuje voličom nepravdivé informácie o tom, kedy, kde a ako môžu voliť. “

Signatári tvrdia, že budú spolupracovať na vytváraní a zdieľaní nástrojov na detekciu a riešenie online distribúcie deepfakes. Okrem toho plánujú viesť vzdelávacie kampane a „poskytovať transparentnosť“ používateľom.

OpenAI, jeden zo signatárov, už minulý mesiac povedal, že plánuje celosvetovo potlačiť dezinformácie súvisiace s voľbami. Obrázky vygenerované pomocou firemného nástroja DALL-E 3 budú zakódované pomocou klasifikátora poskytujúceho digitálny vodoznak, ktorý objasní ich pôvod ako obrázky vygenerované AI. Výrobca ChatGPT uviedol, že bude spolupracovať aj s novinármi, výskumníkmi a platformami, aby získali spätnú väzbu o svojom klasifikátore pôvodu. Plánuje tiež zabrániť chatbotom, aby sa vydávali za kandidátov.

„Zaviazali sme sa chrániť integritu volieb presadzovaním zásad, ktoré zabraňujú zneužívaniu, a zlepšovaním transparentnosti obsahu generovaného AI,“ napísala Anna Makanju, viceprezidentka pre globálne záležitosti v OpenAI, v spoločnej tlačovej správe skupiny. „Tešíme sa na spoluprácu s priemyselnými partnermi, lídrami občianskej spoločnosti a vládami na celom svete, aby sme pomohli ochrániť voľby pred klamlivým používaním AI.“

V zozname výrazne chýba Midjourney, spoločnosť s generátorom obrázkov AI (s rovnakým názvom), ktorá v súčasnosti produkuje niektoré z najpresvedčivejších falošných fotografií. Spoločnosť však začiatkom tohto mesiaca uviedla, že zváži úplný zákaz politických generácií počas volebnej sezóny. Minulý rok bola Midjourney použitá na vytvorenie virálneho falošného obrazu pápeža Benedikta nečakane vykračujúceho po ulici s nadýchanou bielou bundou. Jeden z najbližších konkurentov Midjourney, Stability AI (tvorcovia open-source Stable Diffusion), sa zúčastnil. Engadget kontaktoval Midjourney so žiadosťou o komentár k jeho absencii a ak sa nám ozve, aktualizujeme tento článok.

Medzi „veľkou päťkou“ v Silicon Valley chýba iba Apple. To sa však dá vysvetliť skutočnosťou, že výrobca iPhone ešte nespustil žiadne generatívne produkty AI, ani nehostuje platformu sociálnych médií, kde by sa mohli distribuovať deepfakes. Bez ohľadu na to sme kontaktovali spoločnosť Apple PR so žiadosťou o objasnenie, ale v čase zverejnenia sme sa neozvali.

Hoci všeobecné princípy, na ktorých sa 20 spoločností zhodlo, znejú ako sľubný začiatok, ešte sa uvidí, či voľný súbor dohôd bez záväzného presadzovania bude stačiť na boj proti scenáru nočnej mory, kde zlí svetoví aktéri využívajú generatívnu AI na ovplyvnenie verejnej mienky a voliť agresívne protidemokratických kandidátov – v USA a inde.

„Jazyk nie je taký silný, ako by sa dalo očakávať,“ povedala Rachel Oreyová, senior pridružená riaditeľka volebného projektu v Bipartisan Policy Center. Associated Press v piatok. „Myslím si, že by sme mali dať úver tam, kde je to splatné, a uznať, že spoločnosti majú vlastný záujem na tom, aby ich nástroje neboli použité na podkopávanie slobodných a spravodlivých volieb. To znamená, že je to dobrovoľné a budeme sledovať, či to dodržia.“

Deepfakes generované AI už boli použité v prezidentských voľbách v USA. Už v apríli 2023 Republikánsky národný výbor (RNC) spustil reklamu s použitím obrázkov prezidenta Joea Bidena a viceprezidentky Kamaly Harrisovej generovaných AI. Kampaň pre Rona DeSantisa, ktorý medzitým vypadol z primárok GOP, nasledovali obrázky rivala a pravdepodobného kandidáta Donalda Trumpa vygenerované AI v júni 2023. Obe obsahovali ľahko prehliadnuteľné odmietnutia zodpovednosti, že obrázky boli generované AI.

V januári použili dve spoločnosti so sídlom v Texase umelou inteligenciou vygenerovaný hlboký falošný obraz hlasu prezidenta Bidena na robokáciu voličov v New Hampshire a vyzvali ich, aby 23. januára nevolili v primárkach štátu. Klip vytvorený pomocou nástroja na klonovanie hlasu ElevenLabs, dosiahol podľa generálneho prokurátora štátu až 25 000 voličov NH. ElevenLabs patrí medzi signatárov paktu.

Federálna komunikačná komisia (FCC) konala rýchlo, aby zabránila ďalšiemu zneužívaniu technológie hlasového klonovania vo falošných kampaniach. Začiatkom tohto mesiaca jednohlasne odhlasovala zákaz robotických hovorov generovaných AI. Kongres USA (zdanlivo večne uviaznutý na mŕtvom bode) neprijal žiadnu legislatívu AI. V decembri sa Európska únia (EÚ) dohodla na rozsiahlom návrhu zákona o vývoji bezpečnosti AI Act, ktorý by mohol ovplyvniť regulačné úsilie iných krajín.

„Keďže spoločnosť využíva výhody AI, máme zodpovednosť pomôcť zabezpečiť, aby sa tieto nástroje nestali zbraňou vo voľbách,“ napísal podpredseda a prezident spoločnosti Microsoft Brad Smith v tlačovej správe. “AI nevytvorila volebný podvod, ale musíme zabezpečiť, aby nepomáhala prekvitať podvodom.”