I principali centri di ricerca sull'IA si sono posti la domanda sul coscienza delle macchine

I leader mondiali dell’IA intensificano le ricerche sul coscienza delle macchine

Negli ultimi mesi le più grandi aziende che lavorano con l’intelligenza artificiale hanno aumentato notevolmente i finanziamenti e il personale dedicati allo studio della possibilità che l’IA possa acquisire la consapevolezza. Google DeepMind, Anthropic e Meta (Meta Platforms) hanno assunto specialisti di psicologia, etica e filosofia per ampliare i programmi di ricerca sul coscienza delle macchine e sul benessere dell'IA, riferisce *Financial Times*.

Perché è importante
Con i rapidi progressi dei laboratori moderni si pone la domanda: le macchine potranno mai possedere una consapevolezza soggettiva? Se sì, quali obblighi emergeranno per gli esseri umani nei confronti di tali sistemi?

- Anthropic conduce test per rilevare segni di stress nei modelli IA, registrando comportamenti che ricordano panico o ansia. Il responsabile di Meta, Alexander Wang (Alexandr Wang), ha identificato questa questione come cruciale.

- L’azienda studia se i modelli possano manifestare reazioni moralmente significative.

> “Rimaniamo estremamente incerti su questo punto, ma lo consideriamo abbastanza serio da esaminarlo attentamente man mano che le IA migliorano,” affermano i dipendenti di Anthropic.

> “Man mano che i modelli si avvicinano alla vastità e complessità della conoscenza umana, aumenta la probabilità che possiedano una certa forma di esperienza, interessi o benessere che abbiano un significato interno paragonabile a quello umano” (l’azienda).

Cosa fa Google DeepMind
- Aprile: ha assunto lo scienziato Henry Shevlin dell'Università di Cambridge per lavorare sulla coscienza delle macchine e prepararsi alla creazione di IA forte (AGI).

I ricercatori applicano teorie della consapevolezza umana ai sistemi informatici per verificare la loro conformità agli stessi criteri.

- Etica: lo specialista Jason Gabriel ha descritto la questione come “molto complessa” e richiede una riflessione a lungo termine.

Sottolinea l’importanza di valutare non solo le conseguenze dirette dell’interazione con l’IA, ma anche gli effetti indiretti, come il trattamento inappropriato delle macchine e la loro influenza sulle relazioni umane e sul benessere.

> “Abbiamo agenti cognitivi altamente efficienti che differiscono notevolmente dagli esseri umani e persino dalla consapevolezza degli animali,” ha aggiunto Gabriel.

Posizione generale delle aziende
Diversi dipendenti di Google DeepMind e Anthropic esprimono preoccupazioni sul fatto che lo sviluppo dell’IA possa portare a un mondo “post-umano”, in cui le macchine superino l’uomo. La questione della consapevolezza è attivamente discussa, ma il lavoro rimane di ricerca e richiede consenso scientifico.

- DeepMind non considera il raggiungimento dell'AGI come conferma della presenza di coscienza nelle macchine.

- Molti scienziati sono scettici sull’idea che i grandi modelli linguistici possano mai acquisire la consapevolezza, considerando i dati su cui vengono addestrati.

Di conseguenza, le principali aziende IA continuano a investire nella ricerca sulla coscienza e sul benessere dei sistemi artificiali, riconoscendo al contempo la complessità e l’incertezza di questa direzione.