Blockchain, technológia za bitcoinmi, sa dá použiť na sledovanie tréningových dát AI

DAVOS, Švajčiarsko – Blockchain by sa mohol použiť na zabránenie zaujatosti v údajoch, na ktorých sa trénujú modely umelej inteligencie – a to by mohol byť „prípad použitia vraha“ pre túto technológiu, uviedli manažéri pre CNBC.

Jednou z obáv týkajúcich sa modelov AI – druhu, ktorý je základom aplikácií, ako je ChatGPT – je, že údaje, na ktorých sú trénované, môžu obsahovať zaujatosti alebo dezinformácie. To znamená, že odpovede, ktoré systém AI môže poskytnúť, by obsahovali tieto predsudky a nepravdivé informácie.

Blockchain prišiel na trh v roku 2009 so spustením kryptomeny bitcoin. V kontexte bitcoinu je táto technológia nemennou verejnou knihou transakcií odolnou voči falšovaniu. Firmy sa snažia tieto princípy využiť v iných aplikáciách pre blockchain, ktorý sa niekedy označuje ako technológia distribuovanej účtovnej knihy.

V prípade AI môžu byť tréningové dáta vložené do blockchainu. To umožní vývojárom systému AI sledovať údaje, na ktorých bol model trénovaný.

Casper Labs, blockchainová firma zameraná na podnikanie, sa tento mesiac spojila s IBM, aby vytvorili takýto systém.

„Produkt, ktorý vyvíjame, súbory údajov sú v skutočnosti kontrolované a uložené na blockchaine, takže máte dôkaz o tom, ako je AI trénovaná,“ povedala pre CNBC Medha Parlika, hlavná technologická riaditeľka a spoluzakladateľka Casper Labs. diskusia na Svetovom ekonomickom fóre v Davose tento týždeň.

„A tak keď používate AI, ak sa učí a zistíte, že AI začína mať halucinácie, môžete skutočne vrátiť AI späť. A tak môžete vrátiť späť časť učenia a vrátiť sa k predchádzajúcej verzii AI.“ .“

Halucinácie vo všeobecnosti označujú, keď systém AI poskytuje nepravdivé informácie.

Blockchain je technológia, o ktorej sa hovorí už mnoho rokov, a množstvo…