Il capo del servizio di sicurezza informatica AI di Anthropic ha lasciato l’azienda, ammettendo che il mondo è in pericolo.

Mrinank Sharma lascia Anthropic: lettera ai colleghi e piani per il futuro

L'ex responsabile del dipartimento di ricerca sulla sicurezza dell'IA presso Anthropic, Mrinank Sharma (Mrinank Sharma), ha pubblicato questa settimana la sua lettera di addio. In essa spiega le ragioni della partenza, condivide riflessioni sui rischi attuali e racconta cosa intende fare in futuro.

Cosa dice nella lettera
* Successi – Sharma sottolinea che “ha ottenuto tutto ciò che voleva”. Tra i progetti menzionati c'è lo sviluppo di meccanismi difensivi contro il bioterrorismo con l'IA e studi sull'impatto delle reti neurali sulla società.

* Motivo della partenza – l'autore è giunto alla conclusione che è tempo di andare avanti. Ha costantemente riflettuto sul “pericolo che l'IA, le armi biologiche e la catena di crisi interconnesse possono comportare in questo momento”. Secondo lui stiamo avvicinandoci a un punto di soglia dopo il quale la saggezza dovrebbe crescere proporzionalmente alla nostra capacità di influenzare il mondo; altrimenti ci attendono conseguenze imprevedibili.

* Barriere culturali – Sharma evidenzia quanto sia difficile mantenere i valori sotto pressione. Vedeva questo sia dentro se stesso, sia all'interno dell'azienda dove a volte è necessario rinunciare a ciò che è importante per l'influenza esterna, e anche nella società in generale.

* Piani futuri – dopo la partenza intende dedicarsi a lavori in linea con i suoi principi e studiare poesia e altre forme creative.

Cosa sta succedendo ad Anthropic
* Diverse figure di spicco del settore hanno già lasciato l'azienda, alimentando una ondata di turnover.

* Anthropic è in trattative per attrarre ulteriori investimenti. Se la transazione si concluderà con successo, il valore di mercato potrebbe salire fino a 350 mila milioni di dollari.

* La settimana scorsa è stata lanciata una nuova versione del modello Claude Opus 4.6. Migliora la produttività in ufficio e l'efficienza della programmazione, aumenta la finestra contestuale per lavorare con documenti lunghi e supporta compiti più complessi.

Dove trovare la lettera
Il testo completo della lettera di addio di Sharma è pubblicato su Business Insider. Ciò fornisce uno sguardo più dettagliato sui suoi pensieri e sulla motivazione.