I servizi cloud hanno privato le startup di IA dell'accesso alle GPU, e le loro risorse sono state assorbite da Anthropic e OpenAI

I servizi cloud hanno privato le startup di IA dell'accesso alle GPU, e le loro risorse sono state assorbite da Anthropic e OpenAI

25 hardware

Breve riepilogo

I giganti del cloud Microsoft, Amazon e CoreWeave hanno occupato la maggior parte delle GPU disponibili, lasciando le startup in coda. Ciò ha colpito le aziende investite da fondi di venture come Sequoia Capital, Founders Fund, General Catalyst e Andreessen Horowitz. Il costo dell’affitto delle GPU negli ultimi sei mesi è aumentato di oltre il 25 %, e secondo Azure la carenza potrebbe persistere fino alla fine del 2026.

1. Cosa sta succedendo
Fornitore Come vengono distribuiti le risorse Microsoft Schema a tre livelli:
• Priorità per ~1000 grandi clienti (contratti annuali).
• Le medie aziende ricevono manager dedicati.
• Piccole e micro imprese tramite partner. Amazon & CoreWeave Modello simile, ma con quote più rigide:
• Per i chip Blackwell è richiesto un minimo di 1000 unità e un contratto annuo da decine di milioni di dollari.
• I vecchi modelli NVIDIA sono disponibili solo dopo una attesa di alcune settimane/mesi.

2. Perché le startup sono in coda
1. Affari prioritari
Microsoft, Amazon e CoreWeave hanno stipulato contratti miliardari con Anthropic e OpenAI, garantendo a queste aziende l’accesso prioritario alle GPU.

2. Riduzione delle quote per le piccole imprese
L’introduzione di nuovi strumenti AI ha aumentato drasticamente la domanda di risorse computazionali, mentre i fornitori hanno ridotto i limiti per i clienti più piccoli.

3. Scadenza dei vecchi contratti
Molte startup avevano accordi di 2‑3 anni l’anno scorso; ora scadono e i fornitori li usano come pretesto per riallocare le capacità a clienti più solvibili.

3. Reazione dei fondi di venture
- General Catalyst
Il partner principale Hemant Taneja ha inviato un sondaggio ai fondatori delle società in portafoglio per verificare l’effettivo accesso alle GPU. In risposta, il fondo ha annunciato la creazione di pool computazionali condivisi e l’intenzione di negoziare con i fornitori a nome dei propri investimenti.

- Andreessen Horowitz & Index Ventures
Dopo che i grandi fornitori hanno ridotto l’accesso pubblico all’inizio del 2023, questi fondi hanno iniziato a formare pool GPU propri per le startup dei loro portafogli.

4. Conseguenze per aziende specifiche
Azienda Investimenti Situazione attuale Anthropic – Nonostante il grande contratto, sperimenta carenza di capacità; Azure segnala una carenza fino alla fine del 2026. Lightning AI – Gestisce ~40 000 GPU, ma sono in coda circa 40 aziende con bisogno di 400 000 chip. Il costo orario è aumentato da $1,6 a >$2 (in alcune configurazioni ancora più alto). Krea $83 mila di Andreessen Ventures e Bain Capital Ventures Sei mesi fa hanno stipulato un contratto per centinaia di chip Blackwell a $2,8/ora. Quando hanno cercato di aumentare la capacità per addestrare nuovi modelli, i rappresentanti dei fornitori hanno smesso di rispondere o si sono riferiti alla carenza di risorse.

5. Come appare in numeri
- Aumento dei prezzi: in sei mesi il costo dell’affitto delle GPU è aumentato di oltre il 25 %.
- Quote: per i chip Blackwell è richiesto un minimo di 1000 unità e un contratto annuo con un budget di decine di milioni di dollari.
- Disponibilità dei vecchi chip: attesa da alcune settimane a mesi, talvolta anche più.

6. Cosa succederà
1. I fondi continuano a costruire pool GPU propri per ridurre la dipendenza dai grandi fornitori.
2. I fornitori intensificano il controllo sull’accesso: se un cliente non utilizza i chip assegnati in piena misura, può perdere permanentemente l’accesso alle GPU.
3. Contratti a lungo termine con grandi aziende AI continuano a dare loro priorità, ma anche loro affrontano limitazioni a causa dell’aumento della domanda.

Conclusione
La carenza di GPU nel cloud sta diventando un serio ostacolo per le startup. I fondi di venture rispondono creando pool propri e negoziando attivamente con i fornitori, ma finora i grandi player continuano a ricevere accesso prioritario. Il costo dell’affitto cresce e i tempi di attesa aumentano – una situazione da monitorare attentamente nei prossimi anni.

Commenti (0)

Condividi la tua opinione — per favore, sii cortese e resta in tema.

Non ci sono ancora commenti. Lascia un commento e condividi la tua opinione!

Per lasciare un commento, accedi.

Accedi per commentare