Diit.cz - Novinky a informace o hardware, software a internetu

Jim Keller: Překonáme AI akcelerátory Nvidie našimi RISC-V procesory

Zdroj: MONOist

Jim Keller předpokládá, že startup Tenstorrent založený v roce 2018, do kterého nastoupil jako CEO koncem roku 2020, svým hardwarem časem překoná Nvidii ve světě AI akcelerátorů…

Tenstorrent založil Ljubisa Bajic v únoru 2018. Do - v té době ještě téměř neznámé společnosti - v prosinci 2020 nastupuje procesorový architekt Jim Keller jako CEO. Keller, po téměř půlročním volnu (v pololetí 2020 opustil Intel) začal pracovat ve firmě zaměřené na architekturu RISC-V, se kterou se profesně setkal nejspíš poprvé. Za svého působení v DEC pracoval s architekturou VAX a RISC / Alpha, u AMD s x86 / x64, v Apple s ARM, podruhé u AMD s x86 / x64 a ARM a poté u Intelu opět s x86 / x64.

Nvidia dokázala se svými GPU podchytit rychlý růst AI segmentu. Jejich architektura však není optimalní pro zpracování AI. Naše akcelerátory AI budou efektivnější. Jedním z limitů zpracování AI na GPU je pomalý přístup k CPU a pamětem. Tyto slabiny řeší naše architektura Black Hole vycházející z RISC-V CPU. Eliminací úzkých hrdel umožní vznik energeticky účinnějších a levnějších AI systémů.

--- Jim Keller, Tenstorrent

RISC-V se mu však evidentně velmi zalíbila, mimo jiné kvůli otevřenosti a flexibilitě. Keller je přesvědčen, že na její bázi dokáže nabídnout AI akceleraci efektivnější (jak cenově, tak energeticky), než co nabízí Nvidia, jejíž řešení jsou čistě typu GPGPU jako samostatné moduly či karty. Keller zde poukazuje na úzké hrdlo mezi akcelerátorem a procesorem, případně dále (systémovou) pamětí.

I když je přesvědčen, že RISC-V řešení je již nyní efektivnější, je si vědom toho, že Nvidia trefila optimální okamžik a dokázala se uvést na vznikající trhy ve správný okamžik, takže to s konkurencí nebude snadné. I z důvodu rozšíření softwarové platformy CUDA, která se v oboru stala jakýmsi neodmyslitelným základem.

64bit Opteron vyvinutý v AMD byl dobře přijat hlavními výrobci serverů, ale nedošlo to tak daleko, aby rovnou vytlačil konkurenci v podobě Intelu. Pokud se však podíváme na současnou serverovou architekturu, 64bit řešení, které přinesl Opteron, má nyní 100% podíl. Výsledky tedy nemusí být vždy okamžité […]

--- Jim Keller, Tenstorrent

Vidí však určitou paralelu s 64bit Opterony, které - ač byly podstatně efektivnější než konkurenční alternativy - taky z důvodu dobře zavedené konkurence nedokázaly ihned získat tak široký podíl na trhu, jaký by jejich vlastnostem odpovídal. Nakonec však x64 řešení převládla a nyní jsou standardem.

Nutno dodat, že situace s AI akcelerací je podstatně pestřejší než byla situaci se serverovými procesory po roce 2000. Firem, architektur, konceptů a přístupů, které se snaží dokázat svoji nadřazenost nad ostatními, je celá řada a některé firmy mají ve svém portfoliu i širší spektrum architektur a řešení, kterými se snaží podchytit co nejvíc možných směrů vývoje. Takže si musíme položit řečnickou otázku, jaká je pravděpodobnost, že za 20 let bude standardem pro AI akceleraci právě RISC-V od Tenstorrent.

Zdroje: 

Diskuse ke článku Jim Keller: Překonáme AI akcelerátory Nvidie našimi RISC-V procesory

Středa, 28 Červen 2023 - 12:57 | ventYl | Ludia z Alphy skoncili kde-kade. DEC s IPckom...
Úterý, 27 Červen 2023 - 00:06 | Lazar | Například SlotA používal EV6 protokol, původně...
Pondělí, 26 Červen 2023 - 23:58 | Ladis | Co se zařízl vývoj Alphy, tak lidi přešli do AMD...
Pondělí, 26 Červen 2023 - 23:56 | Anonym | "Alpha ... pod taktovou Intelu." ??? Já...
Pondělí, 26 Červen 2023 - 23:43 | Anonym | To je snadný. Mínuska se dávají za pravdu. Pluska...
Pondělí, 26 Červen 2023 - 23:06 | Ladis | Za to mám ten mínus? Zdejší komunitě asi ještě...
Pondělí, 26 Červen 2023 - 22:50 | Anonym | Transmetta se píše Transmeta R.I.P. :`- (
Pondělí, 26 Červen 2023 - 22:19 | Ladis | Na CPU nemá VLIW smysl, protože většinou jde o...
Pondělí, 26 Červen 2023 - 22:09 | Maor | Groq si nemyslí, že VLIW je přežitek a s tím jak...
Pondělí, 26 Červen 2023 - 21:59 | Ladis | Itanium mělo v sobě 386, hlavně pro instalaci OS...

Zobrazit diskusi