Spoločnosť ChIP vedená spoločnosťou Jim Keller vydala svoj procesor Wormho dier novej generácie pre pracovné zaťaženie AI, ktorý očakáva, že ponúkne dobrý výkon za prijateľnú cenu.Spoločnosť v súčasnosti ponúka dve ďalšie karty PCIe, ktoré môžu ubytovať jeden alebo dva procesory červov, ako aj pracovné stanice TT-Loudbox a TT-Quietbox pre vývojárov softvéru. Všetky dnešné oznámenia sú zamerané na vývojárov, nie na tie, ktoré používajú dosky s červami na komerčné pracovné zaťaženie.
„Je vždy potešujúce dostať viac našich produktov do rúk vývojárov. Vývojové systémy uvoľňovania pomocou našich kariet Wormhole ™ môžu pomôcť vývojárom mieriť a vyvinúť softvér s viac čipovými AI,“ uviedol Jim Keller, generálny riaditeľ spoločnosti Tenstorrent.Okrem tohto spustenia sme nadšení, že sme videli pokrok, ktorý dosiahneme s páskou a zapnutím nášho produktu druhej generácie, Blackhole. “
Každý procesor červovej dierky obsahuje 72 jadier Tensx (z ktorých päť podporuje jadrá RISC-V v rôznych formátoch údajov) a 108 MB SRAM, ktoré dodáva 262 FP8 TFLOPS pri 1 GHz s tepelnou konštrukčnou silou 160W. Karta Wormhole N150 s jedným čipom je vybavená videom 12 GB GB GBDR6 a má šírku pásma 288 GB/s.
Procesory čerstvých diery poskytujú flexibilnú škálovateľnosť, aby vyhovovali rôznym potrebám pracovného zaťaženia. V štandardnom nastavení pracovnej stanice so štyrmi kartami Wormhole N300 sa procesory môžu kombinovať do jednej jednotky, ktorá sa objaví v softvéri ako zjednotená, široká sieťová sieť Tensix Core. Táto konfigurácia umožňuje, aby akcelerátor zvládol rovnaké pracovné zaťaženie, rozdelený medzi štyrmi vývojármi alebo spustil súčasne až osem rôznych modelov AI. Kľúčovou vlastnosťou tejto škálovateľnosti je to, že môže prevádzkovať lokálne bez potreby virtualizácie. V prostredí dátového centra budú procesory červových diel používať PCIe na rozšírenie vo vnútri stroja alebo Ethernet na externú expanziu.
Pokiaľ ide o výkon, karta Wormhole N150 s jedným chipom spoločnosti Tenstorrent (72 Káhových šírok Tensix, 1 GHz Frekvencia, 108 MB SRAM, 12 GB GBDR6, 288 GB/S) dosiahla 262 TFLOPS FP8 TFLOPS pri 160 W, zatiaľ čo doska s dvom 24 GB GDDR6, 576 GB/S Šírka pásma) dodáva až 466 FP8 TFLOPS pri 300 W.
Aby sme vložili 300 W zo 466 tflopov FP8 do kontextu, porovnávame ho s tým, čo vedúci trhu AI NVIDIA ponúka pri tejto tepelnej dizajnérskej sile. A100 NVIDIA nepodporuje FP8, ale podporuje INT8, s maximálnym výkonom 624 vrcholov (1 248 vrcholov, keď je riedky). V porovnaní, H100 NVIDIA podporuje FP8 a dosahuje maximálny výkon 1 670 TFLOPS pri 300 W (3 341 TFLOPS v riedke), čo sa výrazne líši od červovej dierky N300 Tenstorrent.
Existuje však jeden hlavný problém. Wormhole N150 Tenstorrent predáva za 999 dolárov, zatiaľ čo N300 predáva za 1 399 dolárov. Na porovnanie, jedna grafická karta NVIDIA H100 predáva za 30 000 dolárov v závislosti od množstva. Samozrejme, nevieme, či štyri alebo osem procesorov čerstvých diery môžu skutočne poskytnúť výkon jedného H300, ale ich TDP sú 600 W a 1200 W.
Okrem kariet ponúka spoločnosť Tenstorrent vopred vytvorené pracovné stanice pre vývojárov vrátane 4 kariet N300 v cenovo dostupnejšom Xeonovom TT-Loudboxe s aktívnym chladením a pokročilý TT-QuietBox s funkciou chladenia Xiaolong založeného na EPYC)).
Čas príspevku: 2. júla-2024