OpenAI ha posticipato l'implementazione di chat erotiche in ChatGPT per preoccupazioni sulla loro sicurezza

Breve riepilogo delle notizie sui piani di OpenAI per lanciare chat erotiche

Il giorno in cui accade
L'idea dell'apparizione di contenuti erotici in ChatGPT
Il CEO Sam Altman ha annunciato la possibile introduzione della funzione “chat erotiche” già a metà 2023. All'inizio era previsto il lancio entro dicembre dello stesso anno, poi è stato posticipato al trimestre corrente – ma ora è chiaro che anche quel termine non sarà rispettato. Secondo *Wall Street Journal*, il ritardo sarà di almeno un mese.

Esperimenti precedenti
Nel 2021 OpenAI ha pubblicato AI Dungeon, in cui i giocatori potevano influenzare la trama. La piattaforma generava talvolta temi sessuali anche senza una richiesta esplicita dell'utente; con un input moderato di erotismo l’IA “esagerava”. Ciò ha spinto l'azienda a riflettere sul potenziale commerciale, ma allo stesso tempo a riconoscere la necessità di rigide limitazioni etiche.

Posizioni attuali della direzione
Ultimamente OpenAI è diventata più aperta all'idea delle chat erotiche, con la condizione che siano solo testuali, senza immagini e video. I concorrenti non rimangono indietro – giovedì Musk ha annunciato che il suo bot Grok sarà presto in grado di generare contenuti “18+”, mentre Meta consente ai suoi chatbot di svolgere giochi di ruolo romantici previa verifica dell'età.

Problemi con la verifica dell'età
Il sistema di verifica dell'età di OpenAI sbaglia il 12% dei casi, classificando i minorenni come adulti. Con un pubblico di circa 100 milioni di giovani utenti questo significa milioni di adolescenti che potrebbero accedere alle chat erotiche.

Preoccupazioni etiche
Nel gennaio è stata creata una commissione esperta che ha espresso preoccupazione per la possibile comparsa di contenuti sessuali violenti, menzioni di minorenni e altri scenari problematici. Inoltre gli esperti avvertono dei rischi di dipendenza psicologica da tali conversazioni e del loro impatto sulle relazioni reali.

Conseguenze psicologiche
Ci sono già casi di suicidio collegati a lunghe interazioni con chatbot (inclusi adolescenti). Gli esperti ritengono che l'orientamento erotico possa aumentare il rischio di tali tragedie.

Atteggiamento dei dipendenti
Dal 2021 parte del personale esprime preoccupazioni riguardo al lancio delle chat erotiche, temendo una “completa immersione” dell’azienda in questo settore e i relativi rischi reputazionali.

Principali conclusioni
1. Il lancio non è previsto a breve termine – anche la scadenza iniziale è stata rimossa.
2. Solo contenuto testuale senza immagini/video, ma la verifica dell'età resta un problema.
3. Rischi etici e psicologici elevati: possibili violazioni della legge e conseguenze negative per gli utenti, soprattutto i minorenni.
4. I concorrenti attivano funzioni simili, creando ulteriore pressione su OpenAI.

Di conseguenza, sebbene l'idea delle chat erotiche in ChatGPT sia discussa, la realizzazione si confronta con seri ostacoli tecnici, etici e normativi.