Spoločnosť Tenstorrent, ktorá sa zaoberá čipmi a vedená Jimom Kellerom, vydala svoj procesor Wormhole novej generácie pre úlohy umelej inteligencie, od ktorého očakáva dobrý výkon za prijateľnú cenu.Spoločnosť v súčasnosti ponúka dve ďalšie karty PCIe, ktoré dokážu osadiť jeden alebo dva procesory Wormhole, ako aj pracovné stanice TT-LoudBox a TT-QuietBox pre vývojárov softvéru. Všetky dnešné oznámenia sú určené pre vývojárov, nie pre tých, ktorí používajú dosky Wormhole na komerčné účely.
„Vždy je potešujúce dostať viac našich produktov do rúk vývojárov. Systémy na vývoj vydaní s využitím našich kariet Wormhole™ môžu vývojárom pomôcť škálovať a vyvíjať softvér pre umelú inteligenciu s viacerými čipmi,“ povedal Jim Keller, generálny riaditeľ spoločnosti Tenstorrent.Okrem tohto uvedenia na trh sme nadšení z pokroku, ktorý dosahujeme s odinštalovaním a spustením nášho produktu druhej generácie s názvom Blackhole.“
Každý procesor Wormhole obsahuje 72 jadier Tensix (päť z nich podporuje jadrá RISC-V v rôznych dátových formátoch) a 108 MB SRAM, čo poskytuje 262 FP8 TFLOPS pri 1 GHz s tepelným výkonom 160 W. Jednočipová karta Wormhole n150 je vybavená 12 GB grafickej pamäte GDDR6 a má šírku pásma 288 GB/s.
Procesory Wormhole poskytujú flexibilnú škálovateľnosť, ktorá spĺňa rôzne potreby pracovných zaťažení. V štandardnej zostave pracovnej stanice so štyrmi kartami Wormhole n300 je možné procesory zlúčiť do jednej jednotky, ktorá sa v softvéri zobrazuje ako jednotná, široká sieť Tensix core. Táto konfigurácia umožňuje akcelerátoru zvládnuť rovnakú pracovnú záťaž, rozdeliť ju medzi štyroch vývojárov alebo spúšťať až osem rôznych modelov umelej inteligencie súčasne. Kľúčovou vlastnosťou tejto škálovateľnosti je, že môže bežať lokálne bez potreby virtualizácie. V prostredí dátového centra budú procesory Wormhole používať PCIe na rozšírenie vo vnútri stroja alebo Ethernet na externé rozšírenie.
Čo sa týka výkonu, jednočipová karta Wormhole n150 od spoločnosti Tenstorrent (72 jadier Tensix, frekvencia 1 GHz, 108 MB SRAM, 12 GB GDDR6, šírka pásma 288 GB/s) dosiahla 262 FP8 TFLOPS pri 160 W, zatiaľ čo dvojčipová doska Wormhole n300 (128 jadier Tensix, frekvencia 1 GHz, 192 MB SRAM, agregovaných 24 GB GDDR6, šírka pásma 576 GB/s) poskytuje až 466 FP8 TFLOPS pri 300 W.
Aby sme uviedli 300 W s výkonom 466 FP8 TFLOPS do kontextu, porovnáme ho s tým, čo ponúka líder na trhu s umelou inteligenciou, Nvidia, pri tomto tepelnom výkone. Nvidia A100 síce nepodporuje FP8, ale podporuje INT8 s maximálnym výkonom 624 TOPS (1 248 TOPS pri riedkom režime). Pre porovnanie, Nvidia H100 podporuje FP8 a dosahuje maximálny výkon 1 670 TFLOPS pri 300 W (3 341 TFLOPS pri riedkom režime), čo sa výrazne líši od Tenstorrent Wormhole n300.
Je tu však jeden zásadný problém. Wormhole n150 od spoločnosti Tenstorrent sa predáva za 999 dolárov, zatiaľ čo n300 za 1 399 dolárov. Pre porovnanie, jedna grafická karta Nvidia H100 sa predáva za 30 000 dolárov v závislosti od množstva. Samozrejme, nevieme, či štyri alebo osem procesorov Wormhole dokážu skutočne poskytnúť výkon jedného H300, ale ich TDP je 600 W a 1 200 W.
Okrem kariet ponúka Tenstorrent aj predpripravené pracovné stanice pre vývojárov, vrátane 4 kariet n300 v cenovo dostupnejšom TT-LoudBoxe s procesormi Xeon s aktívnym chladením a pokročilom TT-QuietBoxe s funkciou kvapalinového chladenia Xiaolong s procesormi EPYC.
Čas uverejnenia: 29. júla 2024