OpenAI e la carenza di GPU
OpenAI ha posticipato il lancio di GPT-4.5 a causa della carenza di GPU. Il modello sarà costoso e inizialmente disponibile solo per gli abbonati Pro. Altman ha promesso più GPU prossimamente.
Sam Altman, CEO di OpenAI, ha comunicato che la compagnia è costretta a ritardare il lancio del suo nuovo modello, GPT-4.5, a causa della mancanza di GPU. In un post su X, Altman ha descritto GPT-4.5 come "gigante" e "costoso", sottolineando che saranno necessari "decine di migliaia" di GPU prima che ulteriori utenti di ChatGPT possano accedere al modello. La versione di GPT-4.5 sarà disponibile inizialmente per gli abbonati a ChatGPT Pro a partire da giovedì, mentre i clienti di ChatGPT Plus potranno accedervi la settimana successiva.
L'elevato costo di GPT-4.5 è attribuito alla sua dimensione considerevole. OpenAI richiederà $75 per milione di token immessi nel modello, che corrispondono a circa 750.000 parole, e $150 per milione di token generati dal modello stesso. Questo rappresenta 30 volte il costo di input e 15 volte il costo di output rispetto al modello GPT-4, che è utilizzato frequentemente. La strategia di prezzo di GPT-4.5 è considerata eccessiva da alcuni esperti del settore, che esprimono preoccupazione per il futuro dei modelli di grandi dimensioni.
Altman ha spiegato che la crescita continua dell'azienda ha portato a questa carenza di GPU. Ha dichiarato che la settimana prossima verranno aggiunti decine di migliaia di GPU e che il modello sarà rilasciato per il livello Plus successivamente. Sebbene questa situazione non sia quella desiderata, Altman ha riconosciuto che è difficile prevedere le ondate di crescita che possono causare carenze di GPU. Inoltre, ha affermato che la mancanza di capacità di calcolo sta ritardando i prodotti dell'azienda. Per affrontare queste sfide nel corso degli anni, OpenAI ha in programma di sviluppare i propri chip AI e costruire una rete massiccia di datacenter.
