AI Hardware Brief: Neuromorphic Chips and Network SoCs…
Algoritmy AI vyžadují pro práci spoustu zdrojů. Jaký hardware můžete použít k jejich spuštění na hraně?
Tento týden společnost Intel oznámila nový neuromorfní systém s čipy Loihi, který napodobuje výpočetní procesy osmi milionů neuronů. Ve spojení se včerejší zprávou, že University of Michigan oznámila čip čipu memristorů, který umožňuje lokalizovanou umělou inteligenci (umělou inteligenci), se zdá být správný čas mluvit o hardware AI, který začíná stoupat. stává se čím dál častější.
Čip pole memristorů University of Michigan je umístěn ve větším patentovaném čipu. Foto: Robert Coelius, Michigan Engineering Communications and Marketing.
Jaké jsou však hlavní rozdíly mezi neuronovými sítěmi a neuromorfními systémy? A jaký hardware je dnes k dispozici vývojářům?
Zde je stručné shrnutí systémů AI, které nejsou založeny na cloudu, a tři příklady hardwaru navrženého tak, aby přinesly AI jako na dlani.
Push for Edge Computing pro umělou inteligenci
I když je umělá inteligence ještě v plenkách, můžeme s jistotou říci, že nějaký druh umělé inteligence byl pravidelně součástí každodenních produktů. Umělá inteligence může výrazně zlepšit interakci uživatele, předvídat chování, a proto (podobně jako u automobilů) a pomáhat zvyšovat produktivitu (například výrobní linky).
Obavy z umělé inteligence však chybí a narůstá trend uživatelů, kteří si nepřejí, aby byla v datovém centru odesílána a ukládána potenciálně citlivá data (například konverzace). Protože v cloudových systémech umělé inteligence existují další inherentní problémy, jako je latence a dostupnost internetu, existuje tlak na to, aby se umělá inteligence vzdálila stranou ve formě „edge computing“. Místní zařízení zpracovávají data a lokálně provádějí algoritmy AI.
Neuromorfy a neuronové sítě
Existuje několik způsobů, jak lze umělou inteligenci použít, ale dva hlavní způsoby, které přicházejí na scénu, jsou neuromorfní programování a neuronové sítě.
Neuromorfní systém AI je systém velmi podobný tomu, jak mozkové neurony pracují v tomto obvodu, a software kombinuje a produkuje neurony, které mohou spouštět další neurony, vytvářet spojení a reagovat na podněty. Příkladem toho, jak lze hardware použít k replikaci tohoto procesu, jsou mikrokontroléry a FPGA. Mikrokontroléry se chovají podobně jako neurony, aby mohly zpracovávat příchozí data a generovat výstup, zatímco FPGA se chovají podobně jako spojení mezi neurony, kde mohou vytvářet, přerušovat a přesměrovat spojení. mezi neurony.
Hlavním rysem neuromorfních systémů je, že fungují na stejném principu jako neurony v mozku, protože signály mohou střílet neurony, které způsobují, že vysílají signály do jiných neuronů.
Neuronová síť je však řada uzlů spojených váženými spoji, které se podobají neuronům v mozku. Na rozdíl od neuromorfních systémů však v neuronových sítích neexistují žádné neurony, které by střílely a vysílaly signály do jiných uzlů. Neuronové sítě místo toho vypálí všechny uzly, které přijímají vstupy, přidávají je, aplikují koeficienty a váhy a poté produkují svůj výstup.
Účinnost AI v praxi
Jednou z největších překážek umělé inteligence je její složitost a obtížnost jejího efektivního provádění. Provozování systémů umělé inteligence, které dokážou rozpoznat objekty, identifikovat mluvčí a reagovat na jejich prostředí, může být náročné na zdroje, což je jeden z hlavních důvodů, proč mnoho systémů umělé inteligence funguje na základě datových center. V oblaku.
Jelikož existuje obrovská poptávka po službách AI na vestavěných zařízeních s připojením k internetu nebo bez něj, objevuje se potřeba specializovaného hardwaru AI. Speciální AI hardware může pomoci přenést pracovní zátěž na hlavní procesor; výsledkem je lepší responzivní systém, který přestane přijímat vstupy uživatelů a aktualizuje grafická rozhraní (tj. je lepší počkat méně, než Alexa odpoví později, bude položena otázka).
AI se skládá ze dvou hlavních úkolů; Učení a aplikace. Fáze učení systému AI je místo, kde jsou vám prezentována data, a poté se dozvíte, co jsou data a jak by se měla chovat. Například systém umělé inteligence určený k rozpoznávání koček by měl zobrazovat mnoho obrazů koček a obrazů míst, kde se kočky nenacházejí.
Druhý úkol, provedení, je místo, kde systém AI dodává data a poté je zpracovává, aby vytvořil vhodnou odpověď. V příkladu koček by se jednalo o systém umělé inteligence, který se dívá na náhodné objekty a určuje, zda jsou kočky nebo ne. Fáze učení umělé inteligence je něco, co lze provést v datovém centru, ale výsledný algoritmus umělé inteligence (jako neurální síť) lze přenést z datového centra a poté stáhnout do zařízení pro použití.
Neuronovou síť, kterou se kočky učí rozpoznávat, lze tedy přenést na menší zařízení, na kterém síť běží. Fáze provádění je však stále obrovským úkolem, takže vývojáři hardwaru začínají vyrábět hardware AI.
Google Coral – Rada pro rozvoj neuronových sítí
Neuronový síťový hardware je něco, co se začíná integrovat do moderních vestavěných systémů. Jedním z největších příkladů hardwaru neuronových sítí je produktová řada Google Coral.
Vývojová deska je jednodeskový počítač, který obsahuje veškerý typický hardware SBC, jako je čtyřjádrový ARM53 a 1 GB RAM, ale také obsahuje AI koprocesor.
Dno vývojového panelu Google Coral. Obrázek Google
Procesor se nazývá Google Edge TPU, zařízení určené k uvolňování algoritmů AI TensorFlow z hlavního procesoru; To může urychlit aplikace AI uvolněním CPU od zpracování dat AI, ale také se používá hardware vyhrazený pro úkoly AI. . TPU (Tensor Processing Units) společnosti Google jsou na trhu již několik let a jsou součástí pokusu poskytnout přístup ke cloudovému zpracování, konkrétně škálovatelnému zpracování, které dokáže zpracovat velké množství dat pro umělou inteligenci. Asi před rokem byl TPU 3.0 klíčovým prvkem, který potěšil a / nebo zastrašoval diváky na hlavní události Google I / O 2018, kde Project Duplex předvedl neuvěřitelně humánní hlas v ukázce AI text na řeč.
Kromě vývojové desky vydal Google také USB Accelerator, koprocesor TensorFlow umístěný v zařízení USB. To může poskytnout připojenému systému funkce TensorFlow, což nejen pomáhá snížit využití procesoru, ale také eliminuje potřebu významných změn hardwaru (například Raspberry Pi lze upgradovat pomocí USB Accelerator.)
Brain Chip – SoC Neuromorfní výpočty
Ačkoli neuromorfní hardware není tak běžný jako hardware neuronových sítí, existuje několik příkladů. Novým příkladem je BrainChip, který využívá nejnovější koncept neuronové sítě k provádění AI. Na rozdíl od neuronových sítí spotřebovávají energii pouze použité neurony, což znamená, že nejmodernější nervový systém může být výrazně účinnější než jeho protějšky neuronových sítí.
BrainChip NSoC (neuromorfní systém v čipu) má 1,2 milionu neuronů s 10 miliardami synapsí a je asi stokrát účinnější než neuromorfní čip Intel Loihi.
Akida NSoC BrainChip. Obrázek z BrainChipu
Produkty společnosti BrainChip zahrnují veškerý běžný hardware, který lze očekávat od jakéhokoli zabudovaného koprocesoru, jako jsou PCIe, USB3.0, SPI, UART a I3S. BrainChip NSoC má však také převáděcí komplex, který zahrnuje převaděč pixelů a obecný převaděč dat, který umožňuje efektivní převod příchozích dat na kompatibilní s hrotem.
Qualcomm Snapdragon AI – Neural Network SoC
Qualcomm je další společnost, která uznává význam umělé inteligence ve vestavěném designu. Výsledkem je, že do svých zařízení integrovali vlastní hardware a vydali sady SDK, které mohly efektivněji využívat jejich vestavěná zařízení. Například Snapdragon 855 obsahuje CPU Qualcomm Kyro 485, Qualcomm Adreno 640 GPU a Qualcomm Hexagon 690 DSP, které se používají společně k efektivnějšímu provozu neuronových sítí AI.
Qualcomm Snapdragon 855 SoC. Oficiální Qualcomm
Mobilní platforma Snapdragon 845 2017 SoC již byla zaměřena na náročné úlohy zpracování dat, ale platforma 855 se říká, že je zvláště vhodná pro mobilní aplikace a je považována za hlavní upgrade pro zařízení 5G.
Přečtěte si více
Zatímco hardware AI je ještě v plenkách, většina z nich je komercializována se zaměřením na komplexní neurální sítě, jako je řada Coral a série Qualcomm Snapdragon.
Obohacené neuronové sítě (SNN) by však mohly být klíčem do budoucnosti, zejména v edge computingu, pokud jsou skutečně efektivnější jak za běhu, tak i ze spotřeby energie. Na druhou stranu jejich složitost může z nich udělat dražší variantu.
Ať tak či onak, hardware AI je tady, a bude jen otázkou času, než se mikrokontroléry zabalí do některých základních periferií AI nebo enginu, které mohou urychlit triviální úkoly AI.
