Tenstorrent Blackhole, nuovi acceleratori PCIe per l'AI. RISC-V è protagonista

Jim Keller è una figura di spicco nel mondo dell’ingegneria dei microprocessori, noto per il suo ruolo cruciale nello sviluppo di architetture rivoluzionarie presso aziende leader come AMD, Apple, Tesla e Intel. Da inizio 2023, Keller ha assunto il ruolo di CEO di Tenstorrent, un’azienda emergente nel settore dei chip per l’intelligenza artificiale, dopo avervi lavorato già dal 2021. L’annuncio dei nuovi acceleratori AI Blackhole, durante il Tenstorrent Developer Day, segna un importante passo avanti nell’ambito delle soluzioni AI ad alte prestazioni, rivolgendosi principalmente a sviluppatori e aziende che necessitano di hardware in grado di gestire carichi di lavoro complessi.

Tenstorrent Blackhole: un nuovo concetto di potenza per l’AI

La serie Blackhole si compone di tre modelli distinti: Blackhole p100a, Blackhole p150a e Blackhole p150b. Tutti questi modelli sono alimentati dal processore Tensix di Tenstorrent, che rappresenta il cuore pulsante dell’architettura. Con Blackhole p100a, l’azienda introduce una soluzione da circa 1.000 euro dotata di 120 core Tensix, 28 GB di memoria GDDR6 e un consumo energetico che può arrivare fino a 300W, progettato per workstation desktop ad alte prestazioni.

Per utenti che necessitano di potenza superiore, Blackhole p150a offre una configurazione avanzata con 140 core Tensix e 32 GB di memoria GDDR6 al prezzo di circa 1.300 euro. Infine, la versione Blackhole p150b, sebbene abbia specifiche molto simili alla sorella p150a, è pensata per un utilizzo su server rack, con un raffreddamento passivo, mantenendo comunque la stessa potenza e capacità di memoria.

Specifiche Blackhole	p100a	p150a	p150b
Numero di core Tensix	120	140	140
AI Clock	1.35 GHz	1.35 GHz	1.35 GHz
Core RISC-V	16	16	16
SRAM	180MB	210MB	210MB
Memoria	28GB GDDR6	32GB GDDR6	32GB GDDR6
Velocità Memoria	16 GT/sec	16 GT/sec	16 GT/sec
Larghezza Banda Memoria	448 GB/sec	512 GB/sec	512 GB/sec
Potenza Totale	300W	300W	300W
Alimentazione Esterna	12V-2×6	12V-2×6	12V-2×6
Connettività Rete	Nessuna	4x QSFP-DD 800G (passivo)	4x QSFP-DD 800G (passivo)
Interfaccia Sistema	PCIe 5.0 x16	PCIe 5.0 x16	PCIe 5.0 x16
Raffreddamento	Attivo	Attivo	Passivo
Dimensioni	42mm×270mm×111mm	42mm×270mm×111mm	42mm×270mm×111mm

Una soluzione all-in-one: TT-QuietBox

Insieme ai modelli Blackhole, Tenstorrent ha presentato anche TT-QuietBox, un sistema desktop che integra Blackhole in una workstation con raffreddamento a liquido. Questo sistema, pensato per gestire le esigenze di sviluppo AI in ambienti che richiedono silenziosità e alte prestazioni, è stato rilasciato al prezzo di circa 12.000 dollari.

Il TT-QuietBox rappresenta una soluzione “tutto in uno” che combina la potenza dell’acceleratore Blackhole con l’affidabilità di un sistema di raffreddamento avanzato, adatto per chi lavora in ambienti di sviluppo intensivo.

Su cosa si basano i chip Tensix di Tenstorrent?

I chip Tensix di Tenstorrent si basano su un’architettura progettata per accelerare applicazioni e reti di intelligenza artificiale in modo efficiente e versatile. I chip in questione sono ottimizzati per garantire elevate prestazioni per Watt, adattandosi a una vasta gamma di carichi di lavoro specifici per l’AI. L’architettura di ciascun Tensix Core include:

• Cinque core RISC-V (“baby RISC-V“) per la gestione delle operazioni generali.
• Motori matriciali e vettoriali (Matrix e Vector Engines) per elaborazioni ad alte prestazioni.
• Memoria SRAM integrata da 1,5 MB per supportare operazioni rapide.
• Hardware dedicato basato su protocolli Ethernet, per facilitare la comunicazione rapida tra core e chip.

I Tensix Core supportano una vasta gamma di formati in termini di precisione (INT, FP, BFP,…) e utilizzano una rete on-chip (NoC) progettata appositamente per scalare con modelli AI sempre più complessi. Sono utilizzabili sia per l’inferenza che per l’addestramento, offrendo prestazioni ai massimi livelli sia in termini di efficienza energetica che di costo.

La tecnologia è già stata implementata in due generazioni di prodotti, Grayskull e Wormhole. Nel complesso, i chip Tensix sono ideali per applicazioni che spaziano dall’AI, all’automotive, ai data center, passando per dispositivi indossabili, smart camera e altro ancora.

Il futuro dell’AI secondo Tenstorrent

Con il lancio della serie Blackhole, Tenstorrent si posiziona come un attore centrale nel mercato dei chip per AI, offrendo soluzioni che mirano a potenziare lo sviluppo di tecnologie avanzate nel campo dell’intelligenza artificiale. Grazie alla potenza dei suoi chip Tensix e alla versatilità delle soluzioni di raffreddamento, Tenstorrent si prepara a soddisfare la crescente domanda di hardware dedicato all’AI, sia per workstation individuali che per server di fascia alta.

Il passo successivo per l’azienda consisterà nell’integrazione di queste soluzioni all’interno delle applicazioni AI più ambiziose, con l’obiettivo di spingere ulteriormente i limiti delle possibilità computazionali.

Jim Keller ha sempre mostrato una forte convinzione nell’investire su RISC-V, attratto dall’apertura e dalla scalabilità di questa architettura. L’assenza di royalty e la libertà di personalizzazione gli consentono di innovare senza vincoli, creando hardware e software ottimizzati per carichi di lavoro specifici come l’intelligenza artificiale. Keller vede in RISC-V un futuro promettente, specialmente per i data center e il calcolo scientifico; apprezza il coinvolgimento della comunità open source, che favorisce l’accessibilità e la scalabilità.