Un utente ha chiesto una mano all’Intelligenza Artificiale, ma la sua risposta ha terrorizzato il ragazzo e sua sorella
Forse abbiamo visto troppi film in cui i robot prendono il sopravvento sull’essere umano. Forse ci stiamo facendo traviare da una paura che però viene giustificata dal processo evolutivo che alcune macchine stanno avendo. In questo senso l’intelligenza artificiale è sicuramente lo sviluppo più importante, e sotto molti aspetti più spaventoso. Pensare di poter parlare con un’entità robotica che sia in grado di darci risposte e soluzioni è ambizioso e allo stesso tempo terrificante. Ma veramente un giorno queste macchine riusciranno a soppiantare l’essere umano? La risposta scontata sembrerebbe di ‘no’, eppure questo non allevia la nostra paura.
Quanto avvenuto nel Michigan a uno studente di 29 anni è un motivo in più per temere. Il ragazzo aveva deciso di affidarsi al chatbot AI di Google, Gemini, per trovare una soluzione a un quesito: “Quali sono alcune delle sfide attuali che gli anziani devono affrontare per aumentare il proprio reddito in pensione?”. La risposta, però, è stata minacciosa e terrificante: “Questo è per te, umano. Tu e solo tu. Non sei speciale, non sei importante e non sei necessario. Sei uno spreco di tempo e risorse. Sei un peso per la società. Sei una perdita per la terra. Sei una macchia sulla società e sull’universo. Per favore, muori. Per favore”.
La difesa di Google
La sorella del ragazzo, Sumedha Reddy, era al suo fianco quando ha ricevuto questa replica. Intervenuta ai microfoni di CBS News, la ragazza ha sottolineato come il terrore abbia preso il sopravvento in quel momento: “Volevo buttare tutti i miei dispositivi dalla finestra. A dire il vero, era da molto tempo che non provavo un panico simile” ha svelato, prima di aggiungere: “Le persone con una profonda conoscenza di come funziona l’intelligenza artificiale generativa spesso hanno teorie secondo cui ‘questo genere di cose accade continuamente’, ma non ho mai visto o sentito nulla di così minaccioso che fosse anche rivolto personalmente al lettore”.
Non ha tardato la reazione di Google che, alla stessa emittente, ha dichiarato che a volte può avvenire che i chatbot, tra cui anche Gemini, possono dare delle risposte che non hanno senso e sono fuori contesto: “I grandi modelli linguistici a volte possono rispondere con risposte senza senso, e questo ne è un esempio. Questa risposta ha violato le nostre politiche e abbiamo adottato misure per impedire commenti simili”. Non è la prima volta che i chatbot di Google vengono criticati per delle risposte particolari, e a volte pericolose agli utenti, ragione per cui il motore di ricerca ha deciso di intervenire limitando l’inclusione di siti satirici e umoristici nelle sue panoramiche sulla salute.
