Najlepší vedci varujú pred kontrolou AI

Umelá všeobecná inteligencia postavená ako „agenti“ by sa mohla ukázať ako nebezpečná, pretože jej tvorcovia by mohli stratiť kontrolu nad systémom, dvaja z najvýznamnejších svetových vedcov AI povedali CNBC.

V poslednej epizóde CNBC’s „Za údolím“ Podcast vydaný v utorok, Max Tegmark, profesor na Massachusetts Institute of Technology a prezident The Future of Life Institute, a Yoshua Bengio, nazývané jedného z „krstných otcov AI“ a profesorom na Université de Montreal ich obavy z umelej všeobecnej inteligencie alebo AGI. Tento výraz sa vo všeobecnosti vzťahuje na systémy AI, ktoré sú múdrejší ako ľudia.

Ich obavy pramenia z najväčších svetových firiem, ktoré v súčasnosti hovoria o „agentoch AI“ alebo „Agentic AI“ – ktoré spoločnosti tvrdia, že spoločnosti AI umožnia chatbotom AI konať ako asistenti alebo agenti a pomáhajú v práci a každodennom živote. Odhady odvetvia sa líšia v závislosti od toho, kedy vznikne AGI.

S týmto konceptom prichádza myšlienka, že systémy AI by podľa Bengia mohli mať nejaké „agentúru“ a myšlienky.

„Vedci v AI boli inšpirovaní ľudskou inteligenciou k budovaniu strojovej inteligencie a u ľudí existuje kombinácia schopnosti porozumieť svetu, ako je čistá inteligencia a agentické správanie, čo znamená … využívať svoje znalosti na dosiahnutie cieľov „Bengio povedal CNBC„ Za údolím “.

„Práve teraz takto budujeme AGI: Snažíme sa z nich urobiť agentov, ktorí veľa rozumejú svetu, a potom sa môžu konať podľa toho. Ale toto je v skutočnosti veľmi nebezpečný návrh.“

Bengio dodal, že sledovanie tohto prístupu by bolo ako „Vytvorenie nového druhu alebo nového …