Software MIT ukazuje, jak si systémy NLP dělají legraci z…

Zde je příklad toho, jak AI může vážně postrádat některé lidské vlastnosti: Testy ukázaly, jak lze přirozeně systémy pro zpracování jazyka (NLP) přimět k nesprávné interpretaci textu jednoduchým nahrazením slova synonymem.

Softwarový výzkumný tým s názvem TextFooler, vyvinutý společností MIT, který hledá a nahrazuje nejdůležitější slova pro klasifikátor NLP. Tým představil příklad:

„Postavy vržené do neuvěřitelně vymyšlených situací se úplně vzdalují realitě“a“Postavy jsou nemožné.” technické podmínky, Ony zceladaleko od reality “

Není problém, aby to člověk pochopil. Výsledky s AI však byly překvapivé: například BERT, neuronová síť Google, si vedla sedmkrát horší při určování, zda jsou recenze Yelp pozitivní nebo negativní.

Při psaní shrnutí studie pro MIT Technology Review vysvětlil Douglas Heaven, proč je výzkum důležitý. “Viděli jsme mnoho příkladů reverzních útoků, většinou na systémy rozpoznávání obrazu, kde by malé změny ve vstupu mohly matou AI a chybně klasifikovat to, co vidí,” napsal Heaven. „TextFooler ukazuje, že tento styl útoku narušuje NLP, umělou inteligenci za virtuálními asistenty jako Siri, Alex a Google Home, stejně jako další jazykové klasifikátory, jako jsou spamové filtry, detektory řeči a nenávisti.

Tento příspěvek zkoumal různé způsoby, kterými technologie AI překonaly lidské úsilí, jako je screening rakoviny prsu, hraní StarCraft a veřejná debata. V jiných oblastech zůstává odpor, i když marný. V prosinci hlavní technologický ředitel Ligy dronů předpověděl, že rokem 2023 bude AI převzata, i když bylo hlášeno, že lidští řidiči stále převyšují AI v závodech dronů.

S konečným cílem pro software, jako je TextFooler, vědci doufají, že učiní systémy NLP robustnějšími.

Postskript: Pro ty, kteří studují mimo Britské ostrovy, Čínu a některé země Commonwealthu, „kulečník“ odvozený od stejnojmenného sportu „staví někoho do špičky“. Americký ekvivalent je „za osmičkou“, ale to by samozřejmě odneslo titulek.

Máte zájem o takových tématech diskutovat od lídrů v oboru? Zúčastněte se 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo a Cyber ​​Security & Cloud Expo World Series s akcemi, které se budou konat v Silicon Valley, Londýně a Amsterdamu.