Právne oddelenie Microsoftu údajne umlčalo inžiniera, ktorý vyjadril obavy z DALL-E 3

Manažér Microsoftu tvrdí, že OpenAI's DALL-E 3 má bezpečnostné slabiny, ktoré môžu používateľom umožniť vytvárať násilné alebo explicitné obrázky (podobné tým, ktoré sa nedávno zamerali na Taylor Swift). GeekWire oznámil v utorok právny tím spoločnosti zablokoval pokusy vedúceho inžinierov spoločnosti Microsoft Shane Jonesa upozorniť verejnosť na zneužitie. Samozvaný informátor teraz nesie svoju správu na Capitol Hill.

“Dospel som k záveru, že DALL·E 3 predstavuje riziko pre verejnú bezpečnosť a mal by byť odstránený z verejného používania, kým OpenAI nedokáže vyriešiť riziká spojené s týmto modelom,” napísal Jones americkým senátorom Patty Murray (D-WA) a Marii Cantwell ( D-WA), zástupca Adam Smith (D-WA 9. obvod) a generálny prokurátor štátu Washington Bob Ferguson (D). GeekWire zverejnil celý Jonesov list.

Jones tvrdí, že objavil zneužitie, ktoré mu umožnilo obísť bezpečnostné zábradlia DALL-E 3 začiatkom decembra. Hovorí, že nahlásil problém svojim nadriadeným v Microsofte, ktorí mu dali pokyn, aby „osobne nahlásil problém priamo OpenAI“. Potom tvrdí, že sa dozvedel, že chyba by mohla umožniť vytváranie „násilných a znepokojujúcich škodlivých obrazov“.

Jones sa potom pokúsil zverejniť svoju vec v príspevku na LinkedIn. „Ráno 14. decembra 2023 som verejne zverejnil list na LinkedIn neziskovému predstavenstvu OpenAI, v ktorom som ich vyzval, aby pozastavili dostupnosť DALL·E 3),“ napísal Jones. „Pretože Microsoft je pozorovateľom predstavenstva v OpenAI a predtým som sa o svoje obavy podelil so svojím vedúcim tímom, okamžite som Microsoft informoval o liste, ktorý som poslal.“

Reakciou Microsoftu bola údajne požiadavka, aby odstránil svoj príspevok. „Krátko po zverejnení listu môjmu vedúcemu tímu ma kontaktoval môj manažér a povedal mi, že právne oddelenie Microsoftu požiadalo, aby som príspevok vymazal,“ napísal vo svojom liste. “Povedal mi, že právne oddelenie Microsoftu bude veľmi skoro nasledovať svoje konkrétne odôvodnenie žiadosti o zastavenie šírenia prostredníctvom e-mailu a že ju musím okamžite odstrániť bez toho, aby som čakal na e-mail od právneho oddelenia.”

Jones vyhovel, ale hovorí, že jemnejšia odpoveď od právneho tímu Microsoftu nikdy neprišla. “Nikdy som od nich nedostal vysvetlenie ani ospravedlnenie,” napísal. Hovorí, že ďalšie pokusy dozvedieť sa viac od právneho oddelenia spoločnosti boli ignorované. „Právne oddelenie Microsoftu mi stále nereagovalo ani nekomunikovalo priamo so mnou,“ napísal.

Engadget oslovil Microsoft a OpenAI, no ani jedna zo spoločností okamžite nereagovala. Ak sa ozveme, aktualizujeme tento článok.

Informátor tvrdí, že pornografické falzifikáty Taylor Swift, ktoré sa minulý týždeň šírili na X, sú jednou z ilustrácií toho, čo by podobné zraniteľnosti mohli spôsobiť, keby sa nekontrolovali. 404 Médiá v pondelok oznámili, že Microsoft Designer, ktorý používa DALL-E 3 ako backend, bol súčasťou sady nástrojov deepfakerov, ktorí vytvorili video. Publikácia tvrdí, že spoločnosť Microsoft po upozornení túto konkrétnu medzeru opravila.

“Microsoft si bol vedomý týchto zraniteľností a potenciálu zneužitia,” uzavrel Jones. Nie je jasné, či exploity použité na vytvorenie deepfake Swift priamo súviseli s tými, ktoré Jones ohlásil v decembri.

Jones vyzýva svojich zástupcov vo Washingtone, DC, aby konali. Navrhuje, aby vláda USA vytvorila systém na nahlasovanie a sledovanie špecifických zraniteľností AI – a zároveň chránila zamestnancov, ako je on, ktorí hovoria. „Musíme brať spoločnosti na zodpovednosť za bezpečnosť ich produktov a ich zodpovednosť zverejňovať známe riziká,“ napísal. “Znepokojení zamestnanci, ako som ja, by sa nemali nechať zastrašiť, aby zostali ticho.”