Al momento stai visualizzando DeepSeek ridisegna il rapporto tra dimensione dei modelli e prestazioni

DeepSeek ridisegna il rapporto tra dimensione dei modelli e prestazioni

Per anni la corsa nell’intelligenza artificiale si è misurata in parametri: modelli sempre più grandi, cluster sempre più costosi, miliardi di dollari investiti per aggiungere capacità di calcolo. Secondo quanto riportato da AI Secret, DeepSeek ha pubblicato un risultato che mette in discussione questa equazione, mostrando come un modello più compatto possa superare uno molto più grande proprio nei compiti che gli agenti svolgono davvero.

Cosa è successo

La vicenda affonda le radici in una dichiarazione di Ilya Sutskever, che dopo aver lasciato OpenAI ha fondato SSI e ha sostenuto, in una conversazione con Dwarkesh Patel, che l’era dello scaling illimitato era finita: i dati disponibili sono finiti e il pre-training arriverà a un limite. DeepSeek, secondo la fonte, avrebbe ora fornito una prova concreta di quella tesi.

Il modello V4.1 Flash conta 552 miliardi di parametri ma ne attiva solo da 8 a 16 miliardi per token. Il modello V4-Pro, più grande, ne conta 1.600 miliardi e ne attiva 49 miliardi per token. Nei test di programmazione interni a DeepSeek, il modello più snello ha ottenuto un punteggio di 74,2 contro 62,7. Dal 14 settembre, tutte le richieste indirizzate a V4-Pro vengono reindirizzate a V4.1 Flash.

Perché è rilevante

Il punto non è che i modelli debbano diventare più piccoli, ma che i rendimenti si sono spostati altrove. Per cinque anni il vantaggio competitivo è coinciso con la dimensione dei cluster di calcolo; ora l’attenzione si sposta sull’efficienza dell’architettura e sulla capacità di ottenere prestazioni migliori attivando solo una frazione dei parametri disponibili.

Questa dinamica ha implicazioni concrete per chi sviluppa applicazioni basate su modelli linguistici: costi di inferenza più contenuti, latenze potenzialmente migliori e una maggiore sostenibilità economica per chi vuole integrare agenti in produzione. È anche un segnale per il settore: la competizione potrebbe spostarsi dalla quantità di calcolo alla qualità del progetto del modello.

Cosa resta da verificare

I dati citati provengono da test interni a DeepSeek e da una newsletter di settore, quindi vanno letti con la cautela dovuta a misurazioni non indipendenti. Non è chiaro, inoltre, come il modello si comporti su carichi di lavoro diversi dalla programmazione né quali siano le condizioni esatte del reindirizzamento delle richieste. Resta il fatto che la tesi di Sutskever, secondo cui i ritorni dello scaling si sono spostati, trova in questo annuncio un argomento concreto da discutere.

Lascia un commento