L’instancabile ricerca di un’intelligenza artificiale più veloce non significa semplicemente fornire maggiore potenza di calcolo al problema. Si tratta di rompere i colli di bottiglia e spostare le architetture, proprio come costruire una piramide: ciò che sembra liscio da lontano è in realtà una serie di blocchi frastagliati. Per decenni, l’industria tecnologica ha seguito la Legge di Moore, ma la crescita si è stabilizzata. Ora, la prossima ondata di progressi nell’intelligenza artificiale dipende dalla latenza, non solo dalla forza bruta.
L’altopiano del calcolo grezzo
Gli albori dell’informatica hanno visto guadagni esponenziali nella densità dei transistor, migliorando le prestazioni della CPU. Ma la situazione ha subito un rallentamento e l’attenzione si è spostata sulle GPU, sostenute da Jensen Huang di Nvidia. Tuttavia, anche la potenza della GPU ha i suoi limiti. Gli attuali modelli di IA generativa stanno colpendo un muro. La crescita non si ferma; sta cambiando. Come dice Dario Amodei di Anthropic, “L’esponenziale continua finché non cessa”.
La chiave ora non è solo più elaborazione, ma come viene utilizzata l’elaborazione. Nvidia lo riconosce: la loro recente versione Rubin evidenzia l’importanza delle tecniche MoE (Mixture of Experts), consentendo un’inferenza del modello più economica ed efficiente.
La crisi della latenza e la soluzione di Groq
L’ostacolo più grande oggi non è l’addestramento di modelli enormi, ma l’inferenza, ovvero la velocità con cui l’intelligenza artificiale può elaborare le informazioni e fornire risposte. Gli utenti non vogliono aspettare che l’intelligenza artificiale “pensi”. È qui che entra in gioco Groq. La loro architettura Language Processing Unit (LPU) è progettata per un’inferenza estremamente veloce, rimuovendo i colli di bottiglia della larghezza di banda della memoria che affliggono le GPU durante la gestione di attività di ragionamento complesse.
Immagina un agente AI che deve verificare il proprio lavoro generando 10.000 “gettoni di pensiero” interni prima di rispondere. Su una GPU standard, ci vogliono 20-40 secondi. Su Groq, avviene in meno di 2 secondi. Questa velocità sblocca capacità di ragionamento in tempo reale.
La prossima mossa di Nvidia: acquisizione o integrazione?
Per Nvidia, acquisire o integrarsi profondamente con Groq non significa solo chip più veloci. Si tratta di risolvere il problema dell’“attesa che il robot pensi” e di creare un ecosistema software dominante. Le GPU sono state lo strumento universale per l’intelligenza artificiale, ma l’inferenza richiede un approccio diverso.
Nvidia controlla già l’ecosistema CUDA, la sua più grande risorsa. Avvolgendolo attorno all’hardware di Groq, escluderebbero effettivamente i concorrenti e offrirebbero l’unica vera piattaforma end-to-end per la formazione e l’esecuzione dell’intelligenza artificiale. Insieme a un modello open source di prossima generazione (come DeepSeek 4), ciò creerebbe un’offerta che rivaleggia con i modelli di frontiera di oggi in termini di costi, prestazioni e velocità.
La scala del progresso
La crescita dell’intelligenza artificiale non è una curva regolare. Si tratta di una serie di scoperte che superano specifici colli di bottiglia. Innanzitutto, avevamo bisogno di calcoli più veloci (GPU). Quindi, formazione più approfondita (architetture di trasformatori). Ora abbiamo bisogno di un ragionamento più rapido (LPU di Groq).
Jensen Huang si è dimostrato disposto a rivoluzionare le proprie linee di prodotti per rimanere al passo. Abbracciando Groq, Nvidia non comprerebbe solo un chip; assicurerebbero il futuro dell’intelligence in tempo reale. La corsa non riguarda più la potenza pura: riguarda l’efficienza, l’architettura e la capacità di fornire risposte adesso.
