Red Hat acquisisce la startup di ottimizzazione AI Neural Magic

Red Hat ha recentemente annunciato di aver firmato un accordo definitivo per acquisire Neural Magic. Si tratta di una società di software di intelligenza artificiale nota per progetti come DeepSparse e nm-vllm. Il software di Neural Magic mira a elaborare carichi di lavoro AI su processori e GPU a velocità equivalenti a chip AI specializzati (ad esempio TPU). Eseguendo modelli su processori standard, che solitamente hanno più memoria disponibile, il software dell’azienda può realizzare questi guadagni di prestazioni. Red Hat sta acquisendo tale società per rafforzare le proprie soluzioni AI. L’azienda intende infatti sfruttare il talento ingegneristico di Neural Magic nell’elaborazione tramite GPU e CPU per carichi di lavoro di intelligenza artificiale generativa (“GenAI“).

In un comunicato stampa, l’azienda ha dichiarato che: “intende affrontare queste sfide rendendo l’AI accessibile a più di organizzazioni tramite l’innovazione aperta di vLLM. Sviluppato dall’Università di Berkeley, vLLM è un progetto open source guidato dalla comunità per il serving di modelli generativi AI, con supporto per tutte le principali famiglie di modelli, ricerca avanzata sull’accelerazione dell’inferenza e una vasta gamma di hardware. Queste includono GPU AMD, AWS Neuron, TPU di Google, Gaudi di Intel, GPU NVIDIA e CPU x86. La leadership di Neural Magic nel progetto vLLM, unita al solido portafoglio di tecnologie AI cloud ibride di Red Hat, offrirà alle organizzazioni un percorso aperto per la creazione…. La leadership di Neural Magic nel progetto vLLM potenzierà la capacità di Red Hat AI nel supportare il deployment di modelli di linguaggio ovunque nel cloud ibrido. Tutto ciò con uno stack di inferenza già pronto, altamente ottimizzato e aperto“.

Red Hat: Neural Magic potrebbe diventare completamente open source

Sebbene Neural Magic mantenga alcuni elementi di software open source, ha anche componenti proprietari. Una volta completata questa acquisizione da parte di Red Hat, sembra che Neural Magic potrebbe diventare tutto open source. Come riportato sulla pagina delle FAQ: “L’offerta principale di Neural Magic si basa sulla tecnologia open source vLLM, con codice proprietario aggiuntivo. Red Hat ha da tempo dimostrato il suo impegno nell’open-sourcing della tecnologia che acquisisce e non abbiamo motivo di aspettarci un cambiamento in questo approccio. I nostri piani specifici e la nostra tempistica saranno determinati nei prossimi mesi“. Il sito aziendale NeuralMagic.com è già stato aggiornato per segnalare la prevista acquisizione da parte di Red Hat. Secondo la stessa azienda, con tale acquisizione “il futuro dell’intelligenza artificiale è open source“.