Chip Chip Chip Chip Chip Chip objavio je svoj procesor crvotočine nove generacije za AI radno opterećenje, za koji očekuje da će ponuditi dobre performanse po pristupačnoj cijeni.Tvrtka trenutno nudi dvije dodatne PCIE kartice koje mogu smjestiti jednu ili dva procesora crvotočina, kao i TT-Loudbox i TT-QuietBox radne stanice za programere softvera. Sve današnje najave usmjerene su na programere, a ne one koji koriste ploče za crvotoke za komercijalno opterećenje.
"Uvijek je zahvalno dobiti više naših proizvoda u ruke programera. Sustavi za razvoj izdanja pomoću naših Wormhole ™ kartica mogu pomoći programerima da skale i razviju višestruki AI softver", rekao je Jim Keller, izvršni direktor Tenstorrent-a.Pored ovog lansiranja, uzbuđeni smo što vidimo napredak koji postižemo s vrpcom i pojačanjem našeg proizvoda druge generacije, Blackhole. "
Svaki procesor crvotočina sadrži 72 jezgara Tensix (od kojih pet podržava RISC-V jezgre u različitim formatima podataka) i 108 MB SRAM-a, isporučujući 262 FP8 TFLOP-a na 1 GHz s toplinskom dizajnerskom snagom od 160 W. Kartica s jednim čipsom N150 opremljena je s 12 GB GDDR6 video memorije i ima širinu pojasa od 288 GB/s.
Procesori crvotočina pružaju fleksibilnu skalabilnost kako bi zadovoljili raznolike potrebe radnog opterećenja. U standardnoj postavi radne stanice s četiri crvotočne karate N300 kartice, procesori se mogu kombinirati u jednu jedinicu koja se u softveru pojavljuje kao jedinstvena, široka Tensix Core Network. Ova konfiguracija omogućuje akceleratoru da upravlja istom radnom opterećenjem, podijeljeno između četiri programera ili istovremeno pokreće do osam različitih AI modela. Ključna značajka ove skalabilnosti je da se može pokrenuti lokalno bez potrebe za virtualizacijom. U okruženju podatkovnog centra, procesori crvotočina koristit će PCIE za širenje unutar stroja ili Ethernet za vanjsko širenje.
Što se tiče performansi, Tenstorrent-ova karata s jednim čipom N150 (72 TENSIX jezgara, frekvencija 1 GHz, 108 MB SRAM, 12 GB GDDR6, 288 GB/s propusnost) postigla je 262 FP8 TFLOPS na 160W, CORMZORS CORMIX N300 TNENS (TNENSORSKA GB GDDR6, 576 GB/S širina pojasa) isporučuje do 466 FP8 TFLOP -a na 300W.
Da bismo stavili 300W od 466 FP8 TFLOP -a u kontekst, usporedit ćemo ga s onim što NVIDIA LEDER NVIDIA nudi na ovoj toplinskoj dizajnerskoj snazi. NVIDIA A100 ne podržava FP8, ali podržava INT8, s vrhunskim performansama od 624 vrha (1.248 vrha kada je rijetko). Za usporedbu, Nvidia H100 podržava FP8 i postiže vrhunske performanse od 1.670 TFLOP -a na 300W (3.341 TFLOP -ova na rijetkim), što se značajno razlikuje od Tenstorrent -ove crvotone N300.
Međutim, postoji jedan glavni problem. Tenstorrent -ova crvotočina N150 prodaje se za 999 dolara, dok se N300 prodaje za 1.399 dolara. Za usporedbu, jedna grafička kartica NVIDIA H100 prodaje se za 30 000 USD, ovisno o količini. Naravno, ne znamo mogu li četiri ili osam procesora crvotočina zapravo pružiti performanse jednog H300, ali njihovi TDP -ovi su 600 W, odnosno 1200W.
Pored kartica, Tenstorrent nudi unaprijed izgrađene radne stanice za programere, uključujući 4 N300 kartice u pristupačnijoj TT-LoUDBox sa sjedištem u Xeon-u s aktivnim hlađenjem i naprednom TT-PIETBOX-om s Xiaolong-om na bazi EPYC).
Post vremena: srpanj-29-2024