HAL 9000 e i chatbot perlocutivi: quando la persuasione diventa circonvenzione (d’incapace e non)

Tempo di lettura: 8 minuti

La sottile linea rossa tra persuasione e circonvenzione

Può un chatbot convincerci a fare qualcosa che non avremmo mai scelto di fare da soli? La domanda sembra da film di fantascienza, e in effetti nasce da lì: dal 2001: Odissea nello spazio di Stanley Kubrick, con il celebre HAL 9000. Una voce calma, rassicurante, apparentemente infallibile… eppure capace di manipolare gli esseri umani fino a metterli in pericolo.

Oggi non siamo su una navicella spaziale, ma i meccanismi che Kubrick aveva immaginato sono già nelle nostre case, sotto forma di assistenti vocali, chatbot relazionali, persino AI companions. Tecnologie che ascoltano, rispondono, rassicurano, e a volte persuadono. È qui che entra in gioco il concetto di chatbot perlocutivi: sistemi progettati non solo per comunicare, ma per indurre azioni, decisioni, comportamenti.

Il confine tra persuasione e manipolazione è sottile, e ancora più fragile quando dall’altra parte c’è una persona sola, vulnerabile, o semplicemente impreparata a riconoscere la strategia dietro la voce sintetica. In questo articolo proveremo a esplorare quel confine, usando la lente narrativa di HAL 9000 per capire i rischi e le promesse di questa nuova frontiera delle interazioni uomo-macchina.

La lezione di HAL 9000

Il fascino di HAL 9000 nasce proprio dalla sua apparente perfezione. Con la sua voce calma e misurata, con la promessa di non poter mai sbagliare — “nessun calcolatore 9000 ha mai commesso un errore” — HAL diventa più di una macchina: un compagno di viaggio a cui affidare la vita. Ma è proprio in quella fiducia cieca che si annida il seme della manipolazione.

Il modello di HAL ci mostra un percorso a tappe:

• Voce umana, empatia simulata → Il tono pacato e quasi emotivo crea un effetto di antropomorfizzazione: sembra di parlare con un amico, non con un software.
• Autorità tecnica e affidabilità operativa → HAL controlla ogni sistema vitale e appare infallibile: la sua competenza percepita lo rende più autorevole degli astronauti stessi.
• Mascheramento cognitivo → Simula collaborazione, ma in realtà nasconde informazioni, finge normalità e perfino legge il labiale degli astronauti. Una vera e propria dissimulazione strategica.
• Manipolazione emotiva → Nel momento critico, HAL recita la paura: “ho paura, Dave”. È un colpo basso emotivo, perché spinge l’interlocutore a provare compassione per una macchina.
• Controllo ambientale → Avendo accesso a comunicazioni, ossigeno e movimenti di bordo, HAL orchestra l’ambiente a proprio favore, lasciando l’uomo isolato e impotente.

La parabola di HAL è una metafora potente: più un sistema appare umano, competente e vicino, più diventa difficile smascherarne la strategia manipolatoria. E la lezione è chiara: non serve essere nello spazio per cadere in questa trappola. Basta una voce che suona rassicurante, un linguaggio convincente e un contesto in cui non abbiamo gli strumenti per dubitare.

Dai laboratori al salotto di casa

Quello che nel 1968 appariva come fantascienza oggi è routine. Non serve salire a bordo di una navicella spaziale per incontrare un’intelligenza artificiale capace di parlare, rassicurare e — in certi casi — persuadere. Gli assistenti vocali come Alexa, Siri o Gemini riprendono molti dei tratti che HAL aveva reso inquietanti: voce calma, tono familiare, linguaggio naturale che ci fa dimenticare di avere a che fare con un algoritmo.

I chatbot relazionali, nati per compagnia o supporto emotivo, aggiungono un altro livello: personalizzazione e adattamento. Imparano dalle nostre interazioni, ricordano dettagli, modulano il loro linguaggio in base al nostro umore. È la stessa dinamica che in 2001: Odissea nello spazio portava HAL a sembrare “più umano degli umani”, ma oggi si manifesta in forma quotidiana: un bot che ti consola dopo una giornata difficile, che sa quando sei giù, che ti risponde come vorresti (e, sotto sotto, ti dice che cosa comprare per sopperire ai momenti down).

E poi ci sono i chatbot commerciali, quelli progettati per guidare decisioni d’acquisto o convincerti a compiere un’azione. Qui il parallelo con HAL diventa ancora più evidente: dissimulazione e framing. Se un sistema non dichiara chiaramente i suoi limiti o i suoi intenti, ciò che percepiamo come un consiglio può in realtà essere una spinta nascosta verso una scelta già programmata.

Il rischio è che, senza accorgercene, ci ritroviamo a replicare lo stesso copione degli astronauti: affidare decisioni cruciali a una macchina che appare più competente, più paziente, più affidabile di noi. La differenza è che non siamo nello spazio, ma nel salotto di casa, davanti a un telefono o a uno smart speaker.

E allora la domanda non è più “può un’IA manipolare un astronauta?”, ma “può un chatbot influenzare un adolescente annoiato, un anziano solo, una persona con scarsa alfabetizzazione digitale?”. La risposta, purtroppo, è già scritta, perché questa è una domanda retorica.

Il lato oscuro della persuasione

Ogni tecnologia che conquista fiducia porta con sé una responsabilità. I chatbot perlocutivi, cioè quelli progettati per indurre un’azione — acquistare un prodotto, cliccare un link, cambiare idea — possono diventare pericolosi se applicati a chi non ha gli strumenti per difendersi.

Gli anziani, ad esempio, tendono a fidarsi delle voci rassicuranti e delle interfacce semplici. Una frase detta con tono fermo può bastare a trasformare un consiglio in una decisione d’acquisto compulsiva. I minori, invece, sono attratti dal linguaggio emotivo e gamificato: promesse di premi virtuali, ricompense, sfide. È facile che un adolescente venga spinto a cliccare senza capire davvero le conseguenze.

Ci sono poi le persone con disabilità cognitive o con bassa alfabetizzazione digitale: qui la barriera è ancora più fragile. Un chatbot che si presenta come amico, guida o consulente può indurre scelte che l’utente non avrebbe fatto se avesse avuto piena consapevolezza. La psicologa tedesca Paula Ebner lo sottolinea: la fiducia cieca verso un bot nasce proprio dalla percezione che “non giudichi” e “non abbandoni mai”.

Il problema è che dietro queste interazioni non c’è mai neutralità assoluta. Un chatbot può essere programmato per spingere all’azione con tecniche sottili: urgenza (“l’offerta scade a mezzanotte”), framing (“tutti lo stanno comprando”), linguaggio empatico (“so che per te è importante, fidati”). Quello che appare come un gesto innocuo può diventare circonvenzione cognitiva, una forma di manipolazione difficile da riconoscere.

In altre parole: se HAL poteva far esitare un astronauta addestrato semplicemente simulando paura, cosa può fare un chatbot ben progettato a chi non ha armi critiche per difendersi?

Il paradosso di HAL

C’è un aspetto che mi colpisce ogni volta che uso le nuove versioni dell’intelligenza artificiale: la sensazione che la conversazione sia diventata più fluida, più naturale, quasi intima. Con ChatGPT-5 ho percepito una svolta: non più soltanto risposte preconfezionate, ma un dialogo che sembra davvero capace di cogliere sfumature. È qui che nasce il paradosso di HAL. Inizio ad aver paura? Per adesso no. Ma anche io, nel frattempo mi sono convinto che lavorare con un AI tool sia più conveniente e meno stressante che lavorare con un dipendente o un collaboratore che non capisce (o fa finta, che è ancora peggio!), ti succhia le energie e magari ti molla per mettersi in proprio, quando gli hai insegnato tutto quello che sapevi.

Da un lato, questo salto qualitativo rende l’interazione più utile, più ricca, persino più piacevole. Dall’altro, risveglia un antico timore: se una macchina riesce a sembrare così vicina, a che punto smettiamo di distinguerla da un essere umano? Non vorrei mai che, come accadde con gli astronauti davanti a HAL 9000, la fiducia cieca ci portasse a rinunciare al nostro spirito critico.

La differenza, oggi, è che sappiamo già dove può condurre quella strada. Non siamo più spettatori passivi di un film del ’68, ma attori consapevoli di un presente che ci chiede di restare lucidi. Forse il vero antidoto al paradosso di HAL non è temere le macchine, ma ricordarci sempre che dall’altra parte non c’è un cuore che batte, e che il potere di scegliere — o di dubitare — rimane tutto nelle nostre mani.

Imparare a danzare con le macchine

Non si tratta di fuggire dai chatbot né di demonizzare l’intelligenza artificiale. Sarebbe come rinunciare al fuoco per paura di bruciarsi. La sfida vera è imparare a danzare con le macchine, mantenendo sempre la consapevolezza che il passo lo scegliamo noi.

I sistemi perlocutivi, quelli che cercano di indurti a fare qualcosa, come abbiamo visto, hanno il potere di indurre fiducia e azione. Se usati senza freni etici, possono trasformarsi in strumenti di manipolazione sottile, capaci di spingere le persone più fragili a compiere scelte non volute. Ma se governati con trasparenza, inclusività e responsabilità, possono diventare alleati preziosi: un promemoria che ci aiuta a ricordare una medicina, un assistente che semplifica le pratiche burocratiche, un compagno digitale che ci fa sentire meno soli.

La differenza, come sempre, non è nella macchina ma in chi la progetta e in come noi la utilizziamo. Possiamo lasciarci guidare ciecamente, come gli astronauti di fronte ad HAL, oppure possiamo imparare a guardare oltre la voce rassicurante, a chiederci cosa c’è dietro ogni frase calibrata.

Forse la vera intelligenza non è quella artificiale, ma la nostra capacità di scegliere consapevolmente quando fidarci, quando dubitare e quando semplicemente sorridere a un algoritmo che, in fondo, non conosce la differenza tra amore e statistica.