Tha a’ chompanaidh chip fo stiùir Jim Keller Tenstorrent air am pròiseasar Wormhole an ath ghinealach a leigeil ma sgaoil airson eallach obrach AI, a tha iad an dùil a bheir seachad deagh choileanadh aig prìs ruigsinneach.Tha a’ chompanaidh an-dràsta a’ tabhann dà chairt PCIe a bharrachd a ghabhas àite airson aon no dhà de phròiseasairean Wormhole, a bharrachd air ionadan-obrach TT-LoudBox agus TT-QuietBox airson luchd-leasachaidh bathar-bog. Tha a h-uile sanas an-diugh ag amas air luchd-leasachaidh, chan e an fheadhainn a bhios a’ cleachdadh bùird Wormhole airson eallach obrach malairteach.
“Tha e an-còmhnaidh na thoileachas dhuinn barrachd de na toraidhean againn fhaighinn gu làmhan luchd-leasachaidh. Faodaidh siostaman leasachaidh a leigeil ma sgaoil a’ cleachdadh ar cairtean Wormhole ™ luchd-leasachaidh a chuideachadh gus bathar-bog AI ioma-chip a sgèileadh agus a leasachadh, ”thuirt Jim Keller, Ceannard Tenstorrent.A bharrachd air an fhoillseachadh seo, tha sinn air bhioran a bhith a’ faicinn an adhartais a tha sinn a’ dèanamh le teip a-mach agus cumhachd an toraidh dàrna ginealach againn, Blackhole.”
Anns gach pròiseasar Wormhole tha 72 Tensix cores (còig dhiubh a ’toirt taic do choraichean RISC-V ann an grunn chruthan dàta) agus 108 MB de SRAM, a’ lìbhrigeadh 262 FP8 TFLOPS aig 1 GHz le cumhachd dealbhaidh teirmeach de 160W. Tha a’ chairt Wormhole n150 aon-chip uidheamaichte le cuimhne bhidio 12 GB GDDR6 agus tha leud-bann de 288 GB / s.
Bidh pròiseasairean toll-cladhaich a’ toirt seachad sùbailteachd sùbailte gus coinneachadh ri feumalachdan eadar-dhealaichte eallach obrach. Ann an suidheachadh stèisean-obrach àbhaisteach le ceithir cairtean Wormhole n300, faodar na pròiseasairean a thoirt còmhla ann an aon aonad a tha a’ nochdadh anns a ’bhathar-bog mar lìonra bunaiteach aonaichte, farsaing Tensix. Leigidh an rèiteachadh seo leis an luathadair an aon eallach obrach a làimhseachadh, a roinn eadar ceithir leasaichean no suas ri ochd modalan AI eadar-dhealaichte a ruith aig an aon àm. Is e prìomh fheart den scalability seo gum faod e ruith gu h-ionadail gun fheum air virtualization. Ann an àrainneachd ionad dàta, cleachdaidh pròiseasairean Wormhole PCIe airson leudachadh taobh a-staigh an inneil, no Ethernet airson leudachadh taobh a-muigh.
A thaobh coileanadh, choilean cairt Wormhole n150 aon-chip Tenstorrent (72 Tensix cores, tricead 1 GHz, 108 MB SRAM, 12 GB GDDR6, leud-bann 288 GB / s) 262 FP8 TFLOPS aig 160W, fhad ‘s a bha am bòrd n-chip3 Wormhole 300W dùbailte (128 Tensix cores, tricead 1 GHz, 192 MB SRAM, leud-bann 24 GB GDDR6, 576 GB / s còmhla) a ’lìbhrigeadh suas ri 466 FP8 TFLOPS aig 300W.
Gus 300W de 466 FP8 TFLOPS a chuir ann an co-theacsa, nì sinn coimeas eadar e agus na tha stiùiriche margaidh AI Nvidia a ’tabhann aig a’ chumhachd dealbhaidh teirmeach seo. Chan eil Nvidia's A100 a 'toirt taic do FP8, ach tha e a' toirt taic do INT8, le coileanadh as àirde de 624 TOPS (1,248 TOPS nuair a tha e gann). An coimeas ri sin, tha H100 aig Nvidia a’ toirt taic do FP8 agus a’ ruighinn àrd-choileanadh de 1,670 TFLOPS aig 300W (3,341 TFLOPS aig gann), a tha gu math eadar-dhealaichte bho Wormhole n300 aig Tenstorrent.
Ach, tha aon phrìomh dhuilgheadas ann. Bidh Tenstorrent's Wormhole n150 a’ reic airson $999, agus an n300 a’ reic airson $1,399. An coimeas ri sin, bidh aon chairt grafaiceachd Nvidia H100 a’ reic airson $ 30,000, a rèir meud. Gu dearbh, chan eil fios againn an urrainn dha ceithir no ochd pròiseasairean Wormhole coileanadh aon H300 a lìbhrigeadh, ach tha na TDPn aca 600W agus 1200W fa leth.
A bharrachd air na cairtean, tha Tenstorrent a’ tabhann ionadan-obrach ro-thogte do luchd-leasachaidh, a’ toirt a-steach 4 cairtean n300 anns an TT-LoudBox stèidhichte air Xeon nas saoire le fuarachadh gnìomhach, agus an TT-QuietBox adhartach le Xiaolong stèidhichte air EPYC) gnìomh fuarachaidh leaghaidh).
Ùine puist: Iuchar-29-2024