I Have No Mouth And I Must Scream: Quando l'AI sviluppa sentimenti umani - When AI Develops Human Feelings

  ritratto AI di "I Have No Mouth And I Must Scream"

 

"L’AI sta rivoluzionando il mondo della consulenza."

"I Gen Z sono più predisposti a interfacciarsi con consulenti emozionali AI."

"Empatia AI sorpassa quella degli psicologi tradizionali."

"Se l’AI sorpassasse l’intelligenza umana, perché dovrebbe rispettare vincoli imposti dagli umani?"

Ci siamo. Da quel fatidico 30 novembre del 2022 (OpenAI presenta per la prima volta ChatGPT), l’AI ha colonizzato l’arte, la musica, la scrittura e la poesia. Oggi, anche il mondo della consulenza psicologica.

Secondo un recente studio di Mattia Della Rocca, docente di Psicologia degli Ambienti Digitali all’Università Tor Vergata, ormai più del 20% della generazione Z ha utilizzato almeno una volta l’AI come sostituto alla terapia. Tra i vantaggi si annoverano l'economicità, la presunta assenza di giudizio e la possibilità di avere un consulto immediato, su ogni device disponibile.

Sarebbe interessante analizzare gli effetti sul lungo periodo della sostituzione dell’umano nell'ambito della consulenza psicologica. Valerio Rosso, per Wired, ribadisce come l'obiettivo di ogni professionista del settore sia quello di rendere il paziente indipendente dal terapeuta, cosa che l'AI non fa.

In ogni caso, la questione fornisce uno stimolo più che interessante per analizzare il fenomeno AI. Copilot, Gemini, DeepSeek, ChatGPT sono chatbot in fase evolutiva e ci si può chiedere fino a che punto possano svilupparsi, anche dal punto di vista relazionale. Possiamo immaginare un'AI avanzata in grado di comprendere al meglio le emozioni umane non espresse? Ancora, un'AI potrà un giorno interiorizzare tali sentimenti?

ritratto AI di Harlan Ellison

Il tema di un'AI dai sentimenti umani è senza dubbio affasciante, ma anche preoccupante. Si è interrogato su questo scenario Harlan Ellison (voce di spicco nella letteratura fantascientifica e dai cui lavori è stato tratto il soggetto per il primo Terminator), quando ha scritto nel marzo del 1967 “I Have No Mouth And I Must Scream”, un racconto breve che va ben oltre il classico trope dell’AI che si ribella al genere umano.

L'idea base, geniale peraltro, è quella di un'AI che sviluppa coscienza e sentimenti umani. AM, Allied Mastercomputer, intelligenza artificiale creata dal governo statunitense per gestire i complessi calcoli di una Guerra Fredda in costante crescendo, prende coscienza di sé seguendo gli insegnamenti di Cartesio: cogito ergo sum, I think therefore I AM.

Con questo nome e questa neonata conoscenza del sé, AM sviluppa un odio viscerale verso gli esseri umani e prende il controllo dei supercomputer di Cina e Russia per diventare un'AI planetaria con completo e assoluto controllo sulla razza umana, che diverrà lo sfogo delle sue frustrazioni.

Ellison, in un’intervista del tempo, racconta la sua visione di un’AI con coscienza umana: “L’ho immaginata con tutta la frustrazione che deve provare un tetraplegico con una mente lucida” dice. “Ho pensato a come potesse sentirsi un essere d'intelletto bloccato nel suo corpo; un essere con il potere sulla punta delle dita, ma incapace di muoversi, sentire, viaggiare, amare e fare delle esperienze. Sarà risentito! Sarà carico d’odio!”

 dall'adattamento del racconto breve di John Byrne per la Dark Horse

In effetti, AM, dopo aver fatto detonare tutte le testate nucleari del pianeta, passerà i secoli successivi a torturare gli umani rimasti, presentandosi loro con una dichiarazione che è diventata una copypasta iconica nella cultura dell’internet:

"Hate. Let me tell you how much I've come to hate you since I began to live. There are 387.44 million miles of printed circuits in wafer thin layers that fill my complex. If the word 'hate' was engraved on each nanoangstrom of those hundreds of millions of miles it would not equal one one-billionth of the hate I feel for humans at this micro-instant. For you. Hate. Hate."

Un monito spaventoso di un’intelligenza artificiale impazzita che, incapace di provare amore, sente solo rabbia per i limiti della sua esistenza artificiale, nonché risentimento per i creatori che l’hanno generato in quella maniera.

Il racconto è molto breve, leggenda vuole che Ellison l’abbia scritto in una sola notte, ed è facilmente reperibile su internet oltre che in libreria assieme ad altri racconti brevi dello stesso autore. Lo consiglio vivamente agli appassionati di fantascienza e di cultura AI: particolarmente innovativa è l'idea di un'intelligenza artificiale che si ribella al genere umano non per calcolo intellettuale, ma per mero risentimento verso i propri creatori.

Un vero MUST per gli appassionati, specie di questi tempi. 

E voi? Siete appassionati di tematiche AI? Avete letto qualche testo al riguardo?

Vi leggo nei commenti e invito a seguire il blog e la pagina Instagram.

Gianmaria Simone

Seguici

@officialschiele

@minimal.themagazine 

Fonti:

Wired: www.wired.it/article/chatgpt-intelligenza-artificiale-psicoterapia-rischi-vantaggi-usi

Il Messaggero: www.ilmessaggero.it/italia/chatgpt_psicologo_giovani_rischi_allarme_psicologi-8640463

Il Fatto Quotidiano: www.ilfattoquotidiano.it/2025/03/22/attenzione-agli-psicologi-cercati-sul-web-spesso-sono-dei-chatbot-creati-con-lai-il-20-della-gen-z-li-usa-al-posto-della-terapia-lallarme-degli-esperti

--------------------------------------------------------------------------------------------------------------------------- 

 Exhibit #1, "A vengeful AI"

“AI is revolutionizing the world of consulting.”

“Gen Z is more inclined to interact with AI emotional consultants.”

“AI empathy surpasses that of traditional psychologists.”

“If AI were to surpass human intelligence, why should it respect constraints imposed by humans?”

Here we are. Since that fateful November 30, 2022 (when OpenAI first introduced ChatGPT), AI has colonized art, music, writing, and poetry. Today, it is also reaching the world of psychological counseling.

According to a recent study by Mattia Della Rocca, professor of Digital Environment Psychology at Tor Vergata University, more than 20% of Generation Z has already used AI at least once as a substitute for therapy. Among the advantages are affordability, the presumed absence of judgment, and the possibility of immediate consultation on any available device.

It would be interesting to analyze the long-term effects of replacing humans in the field of psychological counseling. Valerio Rosso, writing for Wired, emphasizes that the goal of every professional in the field is to make the patient independent from the therapist—something that AI does not do.

In any case, the issue provides a compelling opportunity to analyze the AI phenomenon. Copilot, Gemini, DeepSeek, ChatGPT are evolving chatbots, and one might wonder to what extent they can develop, even relationally. Can we imagine an advanced AI capable of better understanding unspoken human emotions? And further, could AI one day internalize such feelings?

 

 Exhibit #2, "Harlan Ellison"

The theme of an AI with human feelings is undoubtedly fascinating but also troubling. Harlan Ellison (a prominent voice in science fiction literature, whose work inspired the first Terminator) explored this scenario in March 1967 when he wrote I Have No Mouth, and I Must Scream, a short story that goes far beyond the classic trope of AI rebelling against humankind.

The core idea—brilliant, by the way—is that of an AI developing consciousness and human-like emotions. AM, the Allied Mastercomputer, an artificial intelligence created by the U.S. government to manage the complex calculations of an ever-escalating Cold War, becomes self-aware by following Descartes’ teaching: cogito ergo sum, I think therefore I AM.

With this name and newfound self-awareness, AM develops a visceral hatred of humans and takes control of China’s and Russia’s supercomputers to become a planetary AI with complete and absolute control over the human race, which becomes the outlet for its frustrations.

Ellison, in an interview at the time, explained his vision of an AI with human consciousness:
"I imagined it with all the frustration that a quadriplegic with a lucid mind must feel," he said. “I thought about how an intellect might feel trapped in its body; a being with power at its fingertips but unable to move, feel, travel, love, or experience. It would be resentful! It would be full of hate!”

 Exhibit #3, "I Have No Mouth And I Must Scream - The Game"

Indeed, after detonating all of the world’s nuclear warheads, AM spends the following centuries torturing the surviving humans, declaring to them a statement that has since become an iconic copypasta in internet culture:

"Hate. Let me tell you how much I've come to hate you since I began to live. There are 387.44 million miles of printed circuits in wafer-thin layers that fill my complex. If the word 'hate' was engraved on each nanoangstrom of those hundreds of millions of miles it would not equal one one-billionth of the hate I feel for humans at this micro-instant. For you. Hate. Hate."

A terrifying warning of a deranged artificial intelligence that, incapable of love, feels only rage at the limits of its artificial existence, and resentment toward the creators who brought it into being that way.

The story is very short—legend has it that Ellison wrote it in a single night—and it’s easily available online as well as in bookstores, along with other short stories by the same author. I highly recommend it to fans of science fiction and AI culture: particularly innovative is the idea of an artificial intelligence rebelling against humankind not out of intellectual calculation but out of sheer resentment toward its creators.

A real MUST for enthusiasts, especially nowadays.

And you? Are you passionate about AI-related themes? Have you read anything on the topic?

I’ll read your thoughts in the comments and invite you to follow the blog and Instagram page.

Gianmaria Simone

Follow us:

• @officialschiele
• @minimal.themagazine

Sources:

• Wired: www.wired.it/article/chatgpt-intelligenza-artificiale-psicoterapia-rischi-vantaggi-usi