Anthropic ha presentato un metodo di sospensione d'emergenza dello sviluppo dell'intelligenza artificiale

Anthropic invita alla “autolimitazione” dello sviluppo dell’IA

L’azienda Anthropic, nota per i suoi sforzi nel campo dell’etica dell’intelligenza artificiale, è nuovamente al centro dell'attenzione dopo il conflitto con il Pentagono all'inizio di quest'anno. Questa settimana lo startup ha rivolto una richiesta ai rappresentanti del settore affinché siano pronti a limitare lo sviluppo delle tecnologie se dovessero iniziare a rappresentare una minaccia alla perdita di controllo da parte dell'uomo.

Punti chiave della comunicazione

* L’autosviluppo completamente ricorsivo dell’IA potrebbe portare a sistemi che creano i propri “successori” senza l’intervento umano.

* In tal caso, le capacità di monitoraggio e limitazione del comportamento di questi sistemi diventano critiche.

> «Se i sistemi acquisiscono la capacità di creare autonomamente i propri successori, diventa fondamentale il nostro potere di controllarli, monitorarli e limitarne il comportamento», afferma Anthropic.

Perché è importante?

Il mese scorso più dell’80 % del nuovo codice utilizzato dall'azienda era stato generato dal suo stesso agente Claude. Ciò conferma che Anthropic sa di cosa sta parlando: se l’IA crea autonomamente nuove versioni di sé stessa, il controllo su di essa diventa sempre più difficile.

I rappresentanti dello startup ritengono che tutto il mondo debba avere la possibilità di rallentare o sospendere lo sviluppo di modelli all’avanguardia per dare alla società il tempo di adattarsi e analizzare i cambiamenti. Allo stesso tempo, la coordinazione delle azioni di tutti gli attori del mercato è cruciale: senza misure congiunte, i giocatori scorretti possono compromettere la sicurezza pubblica.

Piani dell’azienda

* Nei prossimi mesi Anthropic intende sviluppare strumenti per monitorare le tendenze pericolose nello sviluppo dell’IA.

* Parallelamente, condurrà lavori di sensibilizzazione sul dibattito dei meccanismi regolatori e sulla creazione di un organismo di vigilanza in grado di introdurre una modalità di “autolimitazione”.

Come sottolinea l'azienda, nessuna singola organizzazione può cambiare la situazione da sola. È necessaria la collaborazione di tutti i principali sviluppatori di IA per garantire uno sviluppo sicuro delle tecnologie.