Technologické a AI spoločnosti podpísali dohodu o boji proti deepfake súvisiacim s voľbami

Skupina 20 popredných technologických spoločností v piatok oznámila spoločný záväzok bojovať proti dezinformáciám AI vo voľbách v roku 2024.

Toto odvetvie sa špecificky zameriava na deepfakes, ktoré využívajú klamlivé audio, video a obrázky na napodobňovanie kľúčových zainteresovaných strán v demokratických voľbách alebo na poskytovanie nepravdivých informácií o voľbách.

Microsoft, Meta, Google, Amazon, IBM, Adobe a návrhár čipov Arm všetci podpísali dohodu. Do skupiny sa pridali aj startupy s umelou inteligenciou OpenAI, Anthropic a Stability AI, popri sociálnych sieťach ako napr. SnapTikTok a X.

Technické platformy sa pripravujú na obrovský rok volieb po celom svete, ktoré sa týkajú viac ako štyroch miliárd ľudí vo viac ako 40 krajinách. Nárast obsahu generovaného AI viedol k vážnym obavám z dezinformácií súvisiacich s voľbami, pričom počet vytvorených hlbokých falzifikátov sa z roka na rok zvýšil o 900 %, podľa údajov spoločnosti Clarity, spoločnosti strojového učenia.

Medzitým technológie detekcie a vodoznaku používané na identifikáciu deepfakes nepokročili dostatočne rýchlo, aby držali krok.

Správa o dohode prichádza deň po tvorcovi ChatGPT OpenAI oznámila Sora, jeho nový model pre video generované AI. Sora funguje podobne ako nástroj AI na generovanie obrázkov OpenAI, DALL-E. Používateľ napíše požadovanú scénu a Sora vráti videoklip s vysokým rozlíšením. Sora môže tiež generovať videoklipy inšpirované statickými obrázkami a rozšíriť existujúce videá alebo doplniť chýbajúce snímky.

Zúčastnené spoločnosti v dohode súhlasili s ôsmimi záväzkami na vysokej úrovni vrátane hodnotenia rizík modelu, „snaženia sa odhaliť“ a riešiť distribúciu takéhoto obsahu na svojich platformách a zabezpečiť transparentnosť týchto procesov…