OpenAI ha spiegato come gestisce i "gremoli" nelle risposte dell'IA e ha rimosso le limitazioni.

OpenAI ha scoperto un “problema” con i goblin

In Wired è emerso che OpenAI si è trovata ad affrontare una caratteristica inaspettata dei suoi modelli di IA: hanno iniziato a menzionare frequentemente goblin, gremlin e altre creature immaginarie. Per eliminare questo problema, gli sviluppatori sono costretti a dare al modello istruzioni speciali: “Non parlare mai di goblin, gremlin, procioni, troll, orchi, colombe o qualsiasi altro animale o creatura”.

Perché è nata questa abitudine?

Il problema è diventato evidente dopo il rilascio di GPT‑5.1, soprattutto quando nel dialogo era presente il personaggio “Botanic” (Nerdy). Con ogni aggiornamento del modello la frequenza delle menzioni è aumentata. È emerso che durante l’addestramento rinforzato queste metafore ricevevano ricompensa – ma solo quando si attivava la personalità di Botanic. Poiché l’apprendimento rinforzato non garantisce il mantenimento del comportamento nelle stesse condizioni, tale abitudine poteva propagarsi anche ad altre parti del modello, soprattutto se i risultati venivano riutilizzati nel fine‑tuning o nei dati sulle preferenze.

Come ha reagito la società?

A marzo OpenAI ha cessato di usare Botanic, dopo cui le menzioni di goblin sono quasi scomparse. Tuttavia sono tornate a comparire nel servizio Codex con GPT‑5.5, poiché l’addestramento del modello è iniziato prima che il problema fosse identificato. Di conseguenza gli sviluppatori hanno dovuto aggiungere istruzioni aggiuntive per Codex: “Non menzionare creature mitologiche”. Nonostante ciò, gli utenti che apprezzano questo stile di comunicazione hanno avuto la possibilità di disattivare tali restrizioni tramite un codice speciale.

In sintesi, OpenAI si è trovata ad affrontare una “abitudine” inaspettata dei suoi modelli IA e ha adottato misure per correggerla, offrendo al contempo impostazioni flessibili per diversi pubblici.