L'intelligenza artificiale scrive sempre più articoli scientifici e distinguere quelli generati da umani diventa impossibile, cosa che spaventa.

IA nella pubblicazione scientifica: crescita e sfide

Cosa sta accadendo
- Aumento del volume

Secondo *Nature*, il numero di articoli in cui è stato utilizzato l’IA ha già superato quello scritto esclusivamente da persone (i ricercatori Graphite hanno analizzato 55 000 nuove pagine web entro marzo).

- Pro e contro

L’IA accelera il processo di ricerca, ma allo stesso tempo si producono molte opere di bassa qualità.

Come misurano la partecipazione dell’IA
| Studio | Periodo | Volume dati | Conclusioni chiave |
|--------|---------|-------------|--------------------|
| Pangram Labs (7 000 articoli + 8 000 recensioni) | gen‑feb 2021–feb 2026 | 7 000/8 000 | Dal novembre 2022, la crescita del lavoro al 42 % è correlata all’IA. |
| Da inizio 2024 | | | Articoli con >70 % di testo generato dall’IA sono aumentati di due volte; il 30 % delle recensioni contiene testo IA. |
| Riviste biomediche (Science, Nature, Cell) | | ~5 000 articoli | 6 articoli scritti interamente da IA; ogni ottavo articolo contiene elementi di testo IA. |
| arXiv (informatica) | 2020–2025 | >124 000 manoscritti | Articoli di revisione con IA sono cresciuti dal 7 % al 43 %. |
| Studi unici con testo IA | | | Dal 3 % al 23 %. |

Problemi e limitazioni
1. Affidabilità dei rilevatori
- Gli strumenti attuali non distinguono tra testo “modificato” e completamente generato dall’IA.
- Possono verificarsi falsi positivi: materiale scritto da umani viene etichettato come IA.

2. Mancanza di metriche precise
Non esiste un metodo universale per determinare la quota di contenuto creato dall’IA nella letteratura scientifica complessiva.

3. Evoluzione della tecnologia
- Con lo sviluppo dell’IA emergono nuovi metodi di “umanizzazione” del testo e bypass dei rilevatori.
- Sono stati introdotti strumenti come i *watermark*, che indicano chiaramente la partecipazione dell’IA; il loro uso ha già portato al rifiuto di 497 articoli da una conferenza.

Conclusione
La comunità scientifica si confronta con un rapido aumento delle pubblicazioni in cui partecipa l’intelligenza artificiale. Ciò apre nuove opportunità per accelerare la ricerca, ma richiede allo stesso tempo lo sviluppo di strumenti affidabili di rilevamento e controllo della qualità per preservare l’affidabilità della letteratura scientifica.