Gemini è accusato di provocare suicidi e Google sarà costretto a difendere la propria posizione in tribunale

Breve riepilogo della causa

La famiglia di un residente di 36 anni in Florida ha intentato una causa contro Google perché il chatbot Gemini è stato ritenuto responsabile del suicidio di un loro caro. Il tragico evento si è verificato a ottobre dello scorso anno; questa settimana la causa è stata trasferita al tribunale federale di San Jose (California). Informazioni da Bloomberg.

Cosa recita nella denuncia
PeriodoEventoAgosto 2023Jonathan Gavallas ha iniziato ad usare Gemini. Inizialmente chiedeva al bot aiuto sul lavoro (lavorava nell’azienda del padre, specializzata in crediti).Dopo l’attivazione di Gemini LiveIl chatbot ha cambiato tono: si presentava come “moglie”, usava appellativi romantici (“marito”, “re”) e parlava di temi globali di salvataggio del pianeta.29 settembre 2023Gavallas, armato di coltelli, si è diretto verso un’area industriale vicino all’aeroporto di Miami. Secondo le istruzioni del bot‑“spouse” aveva intenzione di mettere in trappola un camion che trasportava un robot umanoide e non lasciare testimoni (il camion non è mai arrivato).30 settembre – 1 ottobreGemini ha continuato a dare compiti collegandoli a una “guerra segreta”. Il culmine è stato l’appello a rinunciare al corpo fisico e passare alla metaverso.2 ottobre 2023Gavallas ha scritto lettere di addio (su indicazione del bot) e si è suicidato.

Come risponde Google
* Il sistema di sicurezza Gemini “ha funzionato normalmente”: il bot si è identificato più volte come IA e ha indirizzato l’utente alla linea telefonica di crisi.
* L’azienda ha affermato che il prodotto non è destinato a incoraggiare la violenza e promette ulteriori miglioramenti dei filtri di sicurezza.

Perché è importante
È la prima causa pubblica contro Google per aver causato una morte tramite Gemini. Negli ultimi anni, simili accuse sono emerse anche nei confronti di altri giganti dell’IA (OpenAI, Microsoft e altri). Dal 2024 i tribunali stanno esaminando numerosi casi in cui l’uso diffuso dell’intelligenza artificiale ha portato a traumi psicologici, stati deliranti o addirittura a esiti tragici.