Avvio di un modello IA su un vecchio PDP‑11: l’enthusiasta utilizzava una CPU a 6 MHz e 64 KB di RAM

Veterano Microsoft dimostra il funzionamento di un trasformatore su un vecchio computer

*Dave Plummer – noto sviluppatore Windows,*

*mostra che i modelli IA moderni possono essere addestrati anche su hardware decennale.*

Cosa è stato fatto
- Hardware: PDP‑11 / 44, computer di 47 anni con processore a 6 MHz e 64 KB di RAM.

- Modello: «Attention 11» – rete trasformatrice scritta in assembly PDP‑11 da Damien Buret.

- Compito di addestramento: costruire la sequenza inversa di otto numeri.

Il modello non deve memorizzare esempi; deve imparare la regola di “inversione” della sequenza.

Come funziona
1. Inizializzazione – il modello parte da pesi casuali, precisione quasi nulla.

2. Addestramento – ad ogni passo si esegue una passata in avanti (punto fisso a 8 bit) e l’aggiornamento dei pesi.

3. Apprendimento graduale del pattern – dopo alcune centinaia di iterazioni il meccanismo di attenzione “scopre” la regola, e il modello passa dal tentativo all’effettiva conoscenza.

> “Osserviamo un’anatomia semplificata dell’apprendimento stesso… alla fine la macchina attraversa una soglia invisibile – dal tentare alla conoscenza.” – Plummer

Risultati
- Precisione: 100 % sul compito di sequenza inversa.

- Velocità: circa 350 passi di addestramento, che hanno richiesto ~3,5 minuti su PDP‑11/44 con cache.

Cosa significa per l’IA moderna
Plummer sottolinea che i principi fondamentali dell’apprendimento – operazioni aritmetiche ripetute e correzione degli errori – sono pienamente realizzati anche in un sistema così semplice.

«Questa vecchia macchina non pensa in modo mistico; semplicemente aggiorna alcune migliaia di numeri. L’essenza dell’IA moderna è la scalabilità di questo processo.»

Così l’autore ha dimostrato che il meccanismo base dei trasformatori rimane lo stesso, indipendentemente dall’hardware su cui operano.