Spolu so svojou najnovšou dávkou nových mobilných platforiem strednej triedy pre smartfóny Qualcomm na svojom AI Day v San Franciscu zverejnil ešte väčšie oznámenie. Mobilný čipový gigant robí pre servery ďalšiu hru, keď opustil svoj sortiment Centriq v roku 2018. Tentoraz spoločnosť využíva svoje technológie v oblasti AI, aby sa dostala do dverí cloud computingu. Prvý čip, ktorý sme nazvali platformou Qualcomm Cloud AI 100.
Platforma Cloud AI 100 nie je úpravou mobilných čipov, je to skôr základný dizajn pre úlohy inferencie AI, ako výcvik. To znamená, že čip skôr krčí čísla prechádzajúce neurónovými sieťami, než aby ich používal na trénovanie. Zdá sa, že Qualcomm je v priamej konkurencii s radami Tesla T4 od spoločnosti Nvidia a inferenčnými čipmi Google Edge TPU určenými pre servery a cloud computing. Rovnako ako jej konkurenti si Qualcomm uvedomil, že najúčinnejšie spracovanie AI sa nevykonáva na procesoroch, GPU a FGPA, ale vyžaduje vyhradený urýchľovač AI.
Pokiaľ ide o výkon, spoločnosť Qualcomm odhaduje viac ako 50-násobné zvýšenie výkonu AI nad schopnosťami svojho modelu Snapdragon 855. Snapdragon 855 ponúka okolo 7TOPS výkonu, čo naznačuje, že Cloud AI 100 je v rozsahu 350TOPS. To určite umožní spoločnosti Nvidia T4 spustiť svoje peniaze. Spoločnosť Qualcomm je presvedčená, že má aj výhodu vo výkone na watt a môže sa pochváliť 10-násobným zlepšením v porovnaní s najpokrokovejšími riešeniami iniciácie AI, ktoré sa dnes používajú. Keď drtíte veľké množstvo, energetická účinnosť môže spoločnostiam ušetriť obrovské sumy za účty za elektrinu. Okrem toho chce spoločnosť Qualcomm využiť svoje odborné znalosti v oblasti spracovania signálov a 5G, takže jej cloudová platforma môže v budúcich sieťach s veľmi nízkou latenciou pracovať na hranici.
Na otázku, Qualcomm by sa nevyjadril k tomu, či architektúra použitá v Cloud AI 100 bola proprietárna alebo licencovaná odkiaľkoľvek. Zaujímalo by ma, či sa jedná o prvý vzhľad architektúry Arm Trillium AI od Arm, ktorý je tiež navrhnutý špeciálne na odvodenie pracovnej záťaže pri nízkom rozpočte energie. Ale dosť špekulácií, Qualcomm hovorí, že v budúcnosti bude zdieľať viac informácií o svojej architektúre AI.
A nakoniec, na podporu vývojárov Cloud AI 100 Qualcomm pracuje s väčšinou, ak nie všetkými, zo špičkových softvérových balíkov. Podporované sú rámce Caffe, Keras, mxnet, TensorFlow, PaddlePaddle a Cognitive Toolkit, ako aj runtimey Glow, OnnX a XLA.
Očakáva sa, že Qualcomm Cloud AI 100 začne odber vzoriek zákazníkom v roku 2007
