top of page

Nvidia spinge sull’AI agentica: Nemotron porta la sfida oltre le GPU

5 set
Tempo di lettura: 2 min
Nvidia spinge sull’AI agentica: Nemotron porta la sfida oltre le GPU

Modelli aperti, architetture efficienti e contesti da un milione di token rafforzano la strategia Nvidia lungo l’intera catena del valore dell’intelligenza artificiale


Nvidia amplia la propria strategia nell’intelligenza artificiale oltre il mercato delle GPU e porta la famiglia Nemotron al centro dello sviluppo dei sistemi agentici. Il progetto combina modelli aperti, strumenti software e infrastruttura di calcolo con l’obiettivo di ridurre il costo delle applicazioni nelle quali più agenti AI eseguono sequenze di attività, utilizzano strumenti e mantengono contesti molto estesi.


Nemotron 3 Super è un modello mixture-of-experts da circa 120 miliardi di parametri, dei quali circa 12 miliardi vengono attivati a ogni passaggio. L’architettura ibrida Mamba-Transformer utilizza LatentMoE e Multi-Token Prediction e supporta una finestra di contesto fino a un milione di token. Nvidia dichiara prestazioni comparabili o superiori a modelli open della stessa fascia con un throughput più elevato in specifici scenari di inferenza.


La logica è ridurre il cosiddetto “thinking tax”: impiegare modelli enormi per ogni sottocompito di un sistema multi-agente può aumentare in modo significativo tempi e costi. Accanto a Super, la famiglia comprende Nemotron 3.5 Lightning, modello da circa 30 miliardi di parametri totali e 3 miliardi attivi, progettato per il livello di esecuzione ad alto volume degli agenti persistenti.


Per le imprese, il punto economico è la possibilità di distribuire modelli aperti su infrastrutture controllate, personalizzarli e integrarli con lo stack Nvidia senza dipendere esclusivamente da servizi proprietari esterni. Per Nvidia significa estendere la propria posizione dalla vendita di acceleratori alla gestione di una quota più ampia della catena del valore dell’AI, che comprende modelli, librerie, deployment e orchestrazione. La competizione si sposta così dalla sola potenza del singolo modello all’efficienza dell’intero sistema che lo utilizza. Pesi, dataset e ricette aperte favoriscono inoltre soluzioni private nei settori in cui controllo dei dati, latenza e costi prevedibili sono requisiti decisivi.

Commenti


Le ultime notizie

bottom of page