LinkedIn mantiene stabile l’investimento in GPU per il prossimo anno fiscale
LinkedIn non aumenterà significativamente la spesa per hardware AI nel prossimo anno fiscale, mantenendo l'investimento in GPU sostanzialmente invariato.
In Breve
- Qual è la previsione di LinkedIn per la spesa in GPU?
- LinkedIn non prevede di aumentare significativamente la spesa per hardware AI nel prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle sue GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti in sei mesi grazie a miglioramenti nell'utilizzo e nell'allocazione dei carichi di lavoro.
- Qual è l'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso da Microsoft, puntando su efficienza piuttosto che su espansione infrastrutturale.
LinkedIn ha annunciato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente piatto, con l’impronta di calcolo e storage che sarà mantenuta all’incirca invariata.
La società ha riferito di aver raddoppiato l’efficienza delle GPU esistenti in circa sei mesi, grazie a miglioramenti cumulativi nell’utilizzo delle GPU, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. LinkedIn intende impiegare questo margine operativo per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware.
Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo come la capacità di mantenere stabile il footprint di calcolo, pur immettendo in produzione funzionalità più esigenti dal punto di vista computazionale. Questo approccio si distingue da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari, aggiungendo 31 data center nell’ultimo trimestre e 88 nell’anno.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Ora, la società ha deciso di puntare su data center propri situati in Oregon, Texas e Virginia. Il controllo dell’intero stack tecnologico è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e calcolo per un anno è «non una piccola impresa» e ha richiesto un lavoro significativo. I miglioramenti ottenuti sono presentati come il risultato di un accumulo di sforzi, piuttosto che di una singola innovazione tecnologica. Tra le strategie adottate ci sono un migliore utilizzo delle GPU, la riallocazione dei carichi e la distillazione di modelli più complessi in versioni più piccole.
Il cambiamento è anche motivato dalla dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza ritenuta insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la scelta di mantenere stabile l’investimento in hardware rappresenta un’alternativa alla crescita proporzionale dell’hardware, la cui rilevanza dipenderà dalla capacità del programma di efficienza di reggere nel tempo.
