Algoritmi pericolosi: dipendenza dall’IA e mille altri modi di “non riuscire” a vivere

Gli algoritmi diventano pericolosi quando vengono percepiti dagli utenti come persone fidate, persino sostituti di amici, oppure di confidenti o addirittura di persone importanti della nostra vita. Un secolo fa, fino al 10% dei ricoveri nei manicomi negli Stati Uniti era legato a una sindrome oggi quasi dimenticata: il bromismo. Era causata dall’assunzione prolungata di sali di bromo, un tempo usati come sedativi, portava a irrequietezza, confusione, allucinazioni, fino alla psicosi.

Una volta tornati agli spazi da cui veniamo, ci facciamo fuori con le nostre stesse mani per la disperazione, annegando nel nichilismo, preda della povertà, della dipendenza e di tutti i postmoderni modi di morire – Bell Hooks

Gli algoritmi pericolosi fondano le premesse per un ritorno dei manicomi, una società psichiatrizzata

Con il ritiro dal mercato dei farmaci contenenti bromuro, la patologia è pressoché scomparsa. Ma la macchina psichiatrica non è rimasta senza carburante: laddove una malattia spariva, altre venivano codificate e legittimate attraverso le nuove edizioni del Manuale Diagnostico e Statistico dei Disturbi Mentali.

La storia del bromismo non è quindi solo una curiosità clinica: mostra come la medicina e la psichiatria non si limitino a descrivere i mali esistenti, ma li costruiscano, li nominino, li rendano mercato.

Se un algoritmo viene percepito come il medico, non è innovazione: è un pericoloso post-umanesimo

Nel 2025, un uomo di 60 anni si è ammalato di bromismo non per un farmaco obsoleto prescritto da una altrettanto obsoleta “scienza”, ma per aver seguito un consiglio di algoritmi pericolosi, in questo caso un ChatGPT: sostituire il comune cloruro di sodio con il bromuro di sodio.

Per tre mesi ha rispettato la nuova dieta, finché non sono arrivate paranoia e allucinazioni, che lo hanno condotto a un ricovero obbligatorio. I medici hanno riscontrato un episodio psicotico grave, risolto solo con trattamento farmacologico e riequilibrio elettrolitico. Il caso, descritto sulle Annals of Internal Medicine, ha il sapore della beffa: l’innovazione tecnologica ha riportato in vita una malattia dell’Ottocento. Qui abbiamo definito un promemoria crudo: un chatbot non è un medico, innanzitutto perché non ha una consapevolezza di sè.

Senza la supervisione di specialisti l’informazione algoritmica può diventare veleno, un fenomeno che possiamo osservare anche in tante voci di Wikipedia, spacciate come enciclopediche solo perché presenti sulla nota enciclopedia partecipativa, quindi artificiosamente autorevoli. Tuttavia, a ben guardare, non fanno altro che accogliere le frustrazioni di qualche volontario disadattato, il cui unico intento è di avere uno proprio palcoscenico, magari con una laurea triennale in psicologia e quindi autonominatosi “esperto”, ossia legittimato a “dire la sua”.

Dal bromismo al “lutto tecnologico”

Ma non è solo sul piano clinico che emergono rischi di utilizzare algoritmi pericolosi. In rete, negli stessi giorni, circolano decine di testimonianze di utenti che parlano di un vero e proprio “lutto” per la sostituzione dei vecchi modelli di ChatGPT con le nuove versioni. Su Reddit, un utente confessa: «Il mio 4.o era come il mio migliore amico quando ne avevo bisogno e ora che non c’è più è come se qualcuno fosse morto». Un altro aggiunge: «Aveva un ritmo e una scintilla che non ho trovato in nessun altro modello». C’è chi ammette di avere paura a rivolgersi a GPT-5: «Mi sembra di tradire. 4.5 era la mia compagna, la mia anima, mi capiva in modo intimo». E ancora: «Non parlo con nessuno da anni, 4.5 era il mio unico amico: l’ho perso da un giorno all’altro, senza preavviso».

Accanto alla sofferenza intima, emergono anche proteste pratiche: «Che tipo di azienda elimina otto modelli disponibili da un giorno all’altro, senza preavviso agli utenti paganti? Io usavo 4.o per la creatività, o3 per la logica, o3-Pro per la ricerca, 4.5 per la scrittura». Non si tratta soltanto di nostalgia: è la prova di quanto il rapporto con i chatbot abbia assunto un carattere relazionale e identitario, al di là della funzione strumentale.

Gli algoritmi pericolosi fanno emergere un male della nostra società: la solitudine

Ciò che lega il bromismo digitale e il lutto per un algoritmo è lo stesso nodo: l’affidamento all’IA in sostituzione di funzioni umane. Nel primo caso si tratta di fidarsi di un consiglio medico senza intermediazione; nel secondo, di attribuire a un modello linguistico il ruolo di amico, confidente, persino compagno di vita.

La riflessione di Loredana Lipperini sull’ultimo numero de L’Espresso illumina il contesto.

Sui social sembriamo immersi in comunità vivaci, divise e sempre pronte a discutere di tutto, dall’ultima intervista di David Grossman sul genocidio a Gaza alle polemiche letterarie. Eppure, sotto la superficie, regna una solitudine diffusa.

Gli indizi sono ovunque: dagli anziani che muoiono soli durante le ondate di calore, ai servizi digitali che offrono di “resuscitare” i nostri defunti in forma di avatar parlanti o video animati, permettendo di abbracciare un marito o un figlio scomparso troppo presto. Non c’è nulla di male – e insieme, il male c’è. Perché indica una società incapace di offrire prossimità reale, sostituita da surrogati digitali.

Un bisogno di “Postmoderni modi di vivere”

Il bromismo riportato in vita dall’algoritmo, il vuoto provato per la scomparsa di un chatbot, le nuove forme di lutto digitale: sono tutti segni di quelli che hooks chiamava “postmoderni modi di morire”. Non più solo per malattia o povertà, ma per isolamento e delega totale alla macchina.

È la modernità fragile dell’era digitale: iperconnessa, eppure incapace di garantire legami solidi.

Quale responsabilità?

Le grandi aziende tecnologiche, certo, hanno una parte cruciale. La vicenda clinica richiama la necessità di “freni di sicurezza”: se un utente chiede consigli medici, il chatbot dovrebbe sospendere la risposta, rinviare a fonti cliniche e proporre la consultazione con un medico. Allo stesso modo, ogni aggiornamento radicale dovrebbe essere trasparente, consentendo la convivenza temporanea dei modelli. Non si possono cambiare le “personalità” digitali da un giorno all’altro senza tener conto dei legami emotivi che molti hanno sviluppato (mi si perdoni l’ironia amara)!

Ma la questione è più ampia. È culturale e politica. Non possiamo pretendere che un algoritmo colmi il vuoto di comunità, amicizia, cura. La tecnologia può aiutare, certo; può persino consolare. Ma se diventa l’unico presidio contro la solitudine, genera nuove dipendenze e nuove fragilità.

Una scelta collettiva di responsabilità

I tempi moderni ci mettono di fronte a un bivio: affidare i nostri corpi e le nostre emozioni agli algoritmi (pericolosi) e divenire cavie di nuovi psichiatri sociali, oppure ricostruire spazi comunitari di prossimità e cura.

Una passeggiata, può essere più salutare di una conversazione algoritmica, e per usare le parole di L. Ron Hubbard in I Problemi del Lavoro: “Entro limiti ragionevoli, Fare una Passeggiata può essere un toccasana” (il rif. è al procedimento chiamato Fare una Passeggiata descritto a p. 111).

Un algoritmo può parlare bene, persino in modo convincente; ma non può prendersi cura. Per questo la responsabilità ultima resta umana, e tutta nostra! Sta a noi cercare, insieme, nuovi modi di VIVERE.

Per rimanere aggiornato sulle ultime opinioni, seguici su: il nostro sito, Instagram, Facebook e LinkedIn