Spoločnosť Google kritizovala, že prehľad AI robí chyby, ako napríklad tvrdenie, že prezident Obama je moslim

Odvtedy neprešli ani dva týždne Google vo Vyhľadávaní Google debutovali „Prehľady AI“ a verejná kritika sa zvýšila po tom, čo dopyty vrátili nezmyselné alebo nepresné výsledky v rámci funkcie AI – bez akéhokoľvek spôsobu deaktivácie.

Prehľady AI zobrazujú rýchly súhrn odpovedí na otázky týkajúce sa vyhľadávania úplne hore vo Vyhľadávaní Google: Ak napríklad používateľ hľadá najlepší spôsob čistenia kožených čižiem, na stránke s výsledkami sa môže v hornej časti zobraziť „Prehľad AI“ s viackrokový proces čistenia, získaný z informácií, ktoré syntetizoval z webu.

Na sociálnych sieťach však používatelia zdieľali širokú škálu snímok obrazovky, ktoré ukazujú, že nástroj AI zdieľa kontroverzné odpovede.

Google, Microsoft, OpenAI a ďalšie spoločnosti sú na čele a generatívna AI preteky v zbrojení, keď sa spoločnosti zdanlivo v každom odvetví pretekajú v pridávaní chatbotov a agentov poháňaných AI, ktorým sa majú vyhnúť byť pozadu konkurentmi. Trhu sa predpovedá najvyšší 1 bilión dolárov v príjmoch za desaťročie.

Tu je niekoľko príkladov toho, čo sa pokazilo s prehľadmi AI, podľa snímok obrazovky zdieľaných používateľmi.

Na otázku, koľko moslimských prezidentov mali USA, prehľady AI odpovedal“Spojené štáty majú jedného moslimského prezidenta Baracka Husseina Obamu.”

Keď používateľ hľadal výraz „syr sa nelepí na pizzu“, funkcia navrhol pridaním “asi 1/8 šálky netoxického lepidla do omáčky.” Používatelia sociálnych médií našli 11-ročný komentár Reddit to sa zdalo byť zdrojom.

Na otázku „Je v poriadku nechať psa v rozpálenom aute“ nástroj v jednom bode povedal“Áno, vždy je bezpečné nechať psa v rozpálenom aute,” a pokračoval odkazom a fiktívna pieseň od The Beatles o tom, že je bezpečné nechať psov v rozpálených autách.

Pripisovanie môže byť problémom aj pre prehľady AI, najmä pokiaľ ide o pripisovanie nepresných informácií zdravotníckym odborníkom alebo…