OpenAI rozpúšťa bezpečnostný tím Superalignment AI

OpenAI rozpustila svoj tím zameraný na dlhodobé riziká umela inteligencia len rok po tom, čo spoločnosť oznámila skupinu, v piatok pre CNBC potvrdil zdroj oboznámený so situáciou.

Osoba, ktorá hovorila pod podmienkou anonymity, uviedla, že niektorí členovia tímu sú preradení do viacerých iných tímov v rámci spoločnosti.

Táto správa prichádza niekoľko dní po tom, čo obaja lídri tímu, spoluzakladateľ OpenAI Ilya Sutskever a Jan Leike, oznámili svoj odchod z Microsoft-podporovaný startup. Leike v piatok napísal, že „kultúra a procesy bezpečnosti OpenAI ustúpili do úzadia pri lesklých produktoch“.

Správu ako prvý priniesol Drôtové.

tím OpenAI Superalignment, oznámil minulý rok sa zameral na „vedecké a technické objavy na riadenie a ovládanie systémov AI oveľa inteligentnejšie ako my“. V tom čase OpenAI uviedla, že v priebehu štyroch rokov venuje iniciatíve 20 % svojho výpočtového výkonu.

Sutskever a Leike v utorok oznámili svoj odchod na Xs odstupom niekoľkých hodín, ale v piatok sa Leike podelil o ďalšie podrobnosti o tom, prečo opustil startup.

„Pripojil som sa, pretože som si myslel, že OpenAI bude najlepším miestom na svete na vykonanie tohto výskumu,“ Leike napísal na X. „Avšak už nejaký čas nesúhlasím s vedením OpenAI o základných prioritách spoločnosti, až kým sme konečne nedosiahli bod zlomu.“

Leike napísal, že verí, že oveľa viac šírky pásma spoločnosti by sa malo zamerať na bezpečnosť, monitorovanie, pripravenosť, bezpečnosť a spoločenský dopad.

„Tieto problémy je dosť ťažké vyriešiť a mám obavy, že nie sme na takej trajektórii, ako sa tam dostať,“ napísal. „Počas posledných mesiacov sa môj tím plavil proti vetru. Niekedy sme mali problémy s výpočtom a bolo čoraz ťažšie uskutočniť tento zásadný výskum.“

Leike dodal, že OpenAI sa musí stať…