Podívejte se, jak jej systém umělé inteligence klasifikuje …

Moderní umělá inteligence je často chválena za zvýšenou složitost, ale hlavně za katastrofu. Pokud jste na apokalyptickém konci spektra, revoluce AI automatizuje miliony pracovních míst, odblokuje realitu a podvádění a nakonec přivede lidstvo na pokraj vyhynutí. Po cestě bychom mohli mít obsluhu robotů, možná by nás naplnili embryonálními lusky a sbírali je pro energii. Kdo ví.

Nicméně, většina umělé inteligence Nyní To je šíleně hloupé a užitečné to pouze v úzkých, specializovaných oblastech, kde je speciálně vyškolen základní software, jako je hraní staré čínské deskové hry nebo překlad textu z jednoho jazyka do druhého.

Požádejte svého standardního průzkumného robota, aby udělal něco nového, například analyzoval a označil fotografii pouze pomocí informací, které získal, a získal směšně směšné výsledky. To je zábava za ImageNet Roulette, stylovým webovým nástrojem vytvořeným jako součást probíhající umělecké výstavy o historii systémů rozpoznávání obrazu.

Ruleta ImageNet o vás udělá neuvěřitelně náhodné a neuvěřitelně nepravdivé předpoklady

Jak vysvětlil umělec a výzkumník Trevor Paglen, který výstavu vytvořil Vzdělávání lidí S výzkumnicí AI Kate Crawfordovou není cílem činit úsudek o AI, ale spíše se držet její současné podoby a složité akademické a obchodní historie.

“Když jsme před více než dvěma lety začali konceptualizovat tuto výstavu, chtěli jsme vyprávět příběh o historii obrazů používaných v počítačovém vidění a systémech umělé inteligence k ‘poznávání’ lidí. Ani nás to nezajímalo. Reklamní a propagační verze umělé inteligence nebo příběhy budoucnosti dystopických robotů, “uvedl Crawford v bývalém muzeu Fondazione Prada v Miláně, kde byl představen program Education People. “Chtěli jsme se postarat o důležitost umělé inteligence a brát tyto každodenní obrazy vážně jako součást rychle se rozvíjející strojové vizuální kultury.” To nás donutilo otevřít černé skříňky a zjistit, jak tyto „zobrazovací stroje“ nyní fungují.

ImageNet Roulette je hodnotný úkol a fascinující projekt, i když představuje jeho hloupější stránku. Hlavním důvodem je to, že ImageNet, renomovaný soubor dat o vzdělávání, kterému vědci z oblasti umělé inteligence v uplynulém desetiletí důvěřovali, často nedokáže rozpoznat lidi. Jedná se primárně o balíček pro rozpoznávání objektů, ale má kategorii „Lidé“ s tisíci podkategorií, z nichž každá se směle snaží pomoci softwaru splnit zdánlivě nemožný úkol klasifikace člověka.

A hádejte, co se stalo? Ruleta ImageNet je na tom velmi špatně.

Ani nekouřím! Ale z jakéhokoli důvodu si to ImageNet Roulette myslí. Také věřím, že jsem byl v letadle, ale navzdory jejich cti jsou návrhy otevřených kanceláří jen o něco méně smyslné než úzké kovové trubky visící ve vzduchu desítky tisíc stop.

ImageNet Roulette vytvořil vývojář Leif Ryge ve společnosti Paglen jako způsob, jak umožnit veřejnosti interagovat s abstraktními koncepty výstavy umění o nepochopitelné povaze systémů strojového učení.

Zde je zákulisní kouzlo, díky kterému to funguje:

ImageNet Roulette používá Caffe open source framework pro hluboké učení open source (vytvořený na UC Berkeley) trénovaný s obrázky a tagy v kategoriích „osob“ (aktuálně „uzavřeno z důvodu údržby“). Bylo odstraněno méně než 100 obrázků se správnými jmény a kategoriemi.

Když uživatel nahraje obrázek, aplikace nejprve spustí detektor obličeje, aby našel jakoukoli tvář. Pokud ji najde, pošle je do modelu Caffe, aby se oddělili. Aplikace poté otočí původní obrázky s ohraničujícím rámečkem zobrazujícím detekovanou tvář a štítek, který klasifikátor přiřadil obrázku. Pokud není detekována žádná tvář, aplikace odešle celou scénu do modelu Caffe a vrátí obrázek označený v levém horním rohu.

Součástí projektu je zdůraznit zásadně chybné, a proto humánní způsoby, jak ImageNet klasifikuje lidi jako „problematické“ a „agresivní“. (Zajímavým příkladem na Twitteru je, že někteří muži, kteří nahráli fotografie, byli z nevysvětlitelných důvodů náhodně označeni jako „podezřelí ze znásilnění“.) Paglen říká, že je to zásadní pro jeden z problémů, na který projekt upozorňuje. Prevalence zaujatosti strojového učení v důsledku omylu systémů umělé inteligence a interaktivních lidských tvůrců:

ImageNet obsahuje řadu zvláštních, urážlivých a problematických kategorií, které jsou převzaty z WordNetu. Někteří používají misogynistickou nebo rasistickou terminologii. Výsledky vrácené ruletou ImageNet proto budou také založeny na těchto kategoriích. Toto je záměrné – chceme osvětlit, co se stane, když jsou technické systémy proškoleny na problematická tréninková data. Klasifikace lidské AI jsou klasifikovaným jednotlivcům zřídka zviditelněny. Ruleta ImageNet vám poskytne představu o procesu a ukáže, jak se věci mohou pokazit.

ImageNet je jedním z nejdůležitějších tréninkových balíčků v historii AI. Je to velký úspěch. Značky pocházejí z WordNet, obrázky byly odstraněny z vyhledávačů. Kategorie „osoba“ byla používána jen zřídka nebo se o ní mluvilo. Ale je to zvláštní, fascinující a často urážlivé.

– Kate Crawford (@ katecrawford) 16. září 2019

I když je ImageNet Roulette zábavným rozptýlením, hlavní poselství Vzdělávání lidí Je temná, ale zásadní.

“Vzdělávání lidí Konkrétně zkoumá dvě základní otázky: to, jak jsou lidé zastoupeni, interpretováni a kódováni prostřednictvím vzdělávacích datových souborů, a jak technologické systémy tento materiál shromažďují, označují a používají. politiky se objevují. V systémech počítačového vidění a umělé inteligence se formáty měření snadno, ale tajně promění v morální úsudky. “