Jim Keller-ek zuzendutako Tenstorrent txip-enpresak bere hurrengo belaunaldiko Wormhole prozesadorea kaleratu du AI lan-kargetarako, eta errendimendu ona prezio merkean eskainiko duela espero du.Konpainiak gaur egun bi PCIe txartel gehigarri eskaintzen ditu, Wormhole prozesadore bat edo bi har ditzaketenak, baita TT-LoudBox eta TT-QuietBox lan-estazioak ere software garatzaileentzat. Gaurko iragarpen guztiak garatzaileei zuzenduta daude, ez Wormhole plakak lan-karga komertzialerako erabiltzen dituztenei.
«Beti da pozgarria gure produktu gehiago garatzaileen eskuetan jartzea. Gure Wormhole™ txartelak erabiltzen dituzten garapen-sistemek garatzaileei txipa anitzeko IA softwarea eskalatzen eta garatzen lagun diezaiekete», esan zuen Jim Keller-ek, Tenstorrent-eko zuzendari nagusiak.Aurkezpen honetaz gain, pozik gaude gure bigarren belaunaldiko produktuaren, Blackhole-ren, zinta ateratzeko eta pizteko prozesuan egiten ari garen aurrerapena ikusteaz.”
Wormhole prozesadore bakoitzak 72 Tensix nukleo ditu (horietako bostek RISC-V nukleoak onartzen dituzte hainbat datu formatutan) eta 108 MB SRAM, 262 FP8 TFLOPS emanez 1 GHz-tan, 160W-ko diseinu termikoko potentziarekin. Txip bakarreko Wormhole n150 txartelak 12 GB GDDR6 bideo memoria du eta 288 GB/s-ko banda-zabalera du.
Wormhole prozesadoreek eskalagarritasun malgua eskaintzen dute lan-kargen behar anitzak asetzeko. Lau Wormhole n300 txartel dituen lan-estazio estandar baten konfigurazioan, prozesadoreak unitate bakar batean konbina daitezke, softwarean Tensix nukleo-sare zabal eta bateratu gisa agertzen dena. Konfigurazio honek azeleragailuak lan-karga bera kudeatzea ahalbidetzen du, lau garatzaileren artean banatzea edo zortzi IA eredu desberdin aldi berean exekutatzea. Eskalagarritasun honen ezaugarri nagusietako bat da birtualizaziorik gabe lokalki exekutatu daitekeela. Datu-zentro bateko ingurune batean, Wormhole prozesadoreek PCIe erabiliko dute makinaren barruko hedapenerako, edo Ethernet kanpoko hedapenerako.
Errendimenduari dagokionez, Tenstorrent-en txip bakarreko Wormhole n150 txartelak (72 Tensix nukleo, 1 GHz maiztasuna, 108 MB SRAM, 12 GB GDDR6, 288 GB/s banda-zabalera) 262 FP8 TFLOPS lortu zituen 160W-tan, eta txip bikoitzeko Wormhole n300 plakak (128 Tensix nukleo, 1 GHz maiztasuna, 192 MB SRAM, 24 GB GDDR6 agregatua, 576 GB/s banda-zabalera) 466 FP8 TFLOPS arte ematen ditu 300W-tan.
300W-ko 466 FP8 TFLOPS potentzia testuinguruan jartzeko, Nvidia IA merkatuko liderrak diseinu termikoko potentzia honetan eskaintzen duenarekin alderatuko dugu. Nvidiaren A100ak ez du FP8 onartzen, baina INT8 bai, 624 TOPS-ko errendimendu maximoarekin (1.248 TOPS urria denean). Alderatuz gero, Nvidiaren H100ak FP8 onartzen du eta 1.670 TFLOPS-ko errendimendu maximoa lortzen du 300W-tan (3.341 TFLOPS urria denean), eta hori nabarmen desberdina da Tenstorrent-en Wormhole n300-arekin alderatuta.
Hala ere, arazo handi bat dago. Tenstorrent-en Wormhole n150-ak 999 dolarretan saltzen da, eta n300-ak, berriz, 1.399 dolarretan. Alderatuz gero, Nvidia H100 txartel grafiko bakar batek 30.000 dolarretan saltzen da, kantitatearen arabera. Noski, ez dakigu lau edo zortzi Wormhole prozesadorek H300 bakar baten errendimendua eman dezaketen, baina haien TDP-ak 600W eta 1200W dira, hurrenez hurren.
Txartelez gain, Tenstorrent-ek garatzaileentzako aurrez eraikitako lan-estazioen eskaintzak ditu, besteak beste, 4 n300 txartel Xeon-ean oinarritutako TT-LoudBox merkeagoan, hozte aktiboarekin, eta EPYC-ean oinarritutako Xiaolong) hozte likido funtzioa duen TT-QuietBox aurreratua.
Argitaratze data: 2024ko uztailak 29