I dipendenti di Amazon utilizzano l'intelligenza artificiale solo per la rendicontazione, non per risultati reali

Come l’IA generativa diventa un “indicatore” di performance dei dipendenti

Con la crescente popolarità delle tecnologie di intelligenza artificiale generativa (IA), le aziende chiedono sempre più ai propri collaboratori di dimostrare risultati pratici nell’utilizzo di questi sistemi. In risposta a questa pressione è emerso un nuovo fenomeno: i dipendenti affidano all’IA compiti senza senso solo per migliorare la propria statistica sull'uso della tecnologia.

Il Financial Times descrive la situazione in Amazon

L’articolo del Financial Times parla di come i lavoratori del gigante dell’e-commerce stiano usando sempre più il software MeshClaw. Questo agente si collega agli strumenti di lavoro dei dipendenti e può eseguire compiti per loro conto. Alcuni lo usano per automatizzare azioni praticamente inutili, al fine di aumentare la propria valutazione personale sull’efficacia nell’uso dell’IA.

La causa è la pressione crescente da parte della direzione: ora oltre l'80 % dei sviluppatori è obbligato a utilizzare l’IA ogni settimana. Per ciascun dipendente viene tenuta una statistica separata, e coloro che non raggiungono gli obiettivi devono spiegare il motivo alla direzione. Sebbene formalmente i manager non debbano valutare i dipendenti in base ai dati sull'uso dei token IA, negli ultimi mesi sono emerse sospetti che ciò stia accadendo.

In questo contesto alcuni lavoratori di Amazon hanno incentivi falsi: imitano un’alta attività per beneficio personale, e non per il bene dell’azienda. Questo è particolarmente importante per i giganti tecnologici che investono ingenti somme in infrastrutture IA e vogliono dimostrare agli investitori e alla direzione il reale valore dell'implementazione.

Come Amazon gestisce i dati sull’utilizzo dell’IA

Amazon prevede di spendere quest’anno circa 200 miliardi di dollari in spese in conto capitale. Per assicurarsi che le tecnologie siano effettivamente utilizzate, l’azienda rafforza il controllo sull'uso dell’IA. Inizialmente veniva pubblicata una statistica di gruppo sull’utilizzo dell’IA da parte dei dipendenti, ma ora l'accesso ai risultati individuali è riservato solo ai professionisti stessi e alla loro direzione immediata. Ai manager è formalmente vietato utilizzare questi dati per valutare le prestazioni del personale.

Situazione in altre aziende tecnologiche

Il Financial Times osserva che simili abusi si verificano anche in Meta Platforms. MeshClaw, sviluppato da oltre 30 specialisti di Amazon, può caricare codice software nelle versioni di produzione, filtrare email e interagire con applicazioni come Slack. Molti dipendenti esprimono preoccupazione per la sicurezza di tali soluzioni: l’IA potrebbe generare errori e il controllo delle sue azioni rimane debole.

Così, l’aumento dei requisiti sull'uso dell’IA generativa porta alla creazione di “indicatori” di performance che a volte diventano obiettivi in sé stessi, piuttosto che mezzi per raggiungere risultati aziendali reali.