La cura sotto punteggio 

Nell’era del welfare algoritmico anziani, disabili e non autosufficienti rischiano di diventare variabili di costo da ottimizzare, non persone da riconoscere. Viaggio dentro la nuova frontiera dell’esclusione automatizzata.

In Francia esiste un numero, compreso tra zero e uno, che ogni mese contribuisce a decidere il destino di milioni di persone. Più quel numero si avvicina all’uno, più cresce la probabilità di finire nel mirino di un controllo, di vedersi sospendere un sussidio, di essere trattati come potenziali truffatori. Non conta la storia personale, non conta il volto, non conta la fatica accumulata in una vita: conta il punteggio. E fra i fattori che quel punteggio fanno salire, il sistema pubblico francese ha inserito per anni tre condizioni che dovrebbero togliere il sonno a chiunque abbia a cuore la giustizia sociale: l’essere poveri, l’essere senza lavoro e il percepire un’indennità di disabilità.

Non è una fantasia distopica, non è la trama di un romanzo sul futuro. È il presente, ed è già installato dentro le pieghe amministrative di alcune tra le più mature democrazie europee. La chiamano innovazione. Ci raccontano che l’intelligenza artificiale renderà più efficienti i servizi pubblici, taglierà gli sprechi, semplificherà la vita dei cittadini. Ma dietro questa narrazione luminosa si nasconde una domanda che non è tecnica bensì squisitamente politica: chi deciderà, domani, chi ha diritto all’assistenza, alle cure, alla protezione sociale? E soprattutto, con quali criteri, sotto il controllo di chi, con quale possibilità di replica per chi finisce dalla parte sbagliata del calcolo?

È attorno a questa domanda che si gioca una delle partite decisive del nostro tempo. Perché sotto la parola apparentemente neutra «algoritmo» si sta costruendo un dispositivo di potere che rischia di ridisegnare in silenzio il confine tra chi merita di essere curato e chi viene classificato come costo da contenere. Questa inchiesta prova a smontare quel dispositivo, pezzo per pezzo.

1. La favola dell’efficienza

Ogni potere che vuole tagliare i diritti ha bisogno di parole che facciano sembrare naturale ciò che è invece una scelta. Nel lessico del welfare digitale queste parole sono note: efficienza, razionalizzazione, lotta agli sprechi, contrasto alle frodi. Suonano come buon senso, come amministrazione responsabile del denaro pubblico. In realtà portano dentro di sé un’intera visione del mondo, quella che il neoliberismo ha imposto come orizzonte indiscutibile negli ultimi decenni: lo Stato sociale non come conquista di civiltà, ma come voragine di spesa da prosciugare; il cittadino non come titolare di diritti, ma come potenziale profittatore da sorvegliare.

In questa cornice l’intelligenza artificiale arriva come lo strumento perfetto, perché aggiunge alla vecchia ideologia del rigore una promessa nuova e seducente: la neutralità della macchina. Se a decidere è un algoritmo, ci viene detto, non c’è più arbitrio, non c’è più discrezionalità, non c’è più politica: c’è solo il calcolo oggettivo, freddo, imparziale. È qui che si consuma l’inganno più profondo. Perché presentare come tecnica una decisione che riguarda la dignità delle persone significa sottrarla al conflitto democratico, spoliticizzarla, metterla al riparo dalla discussione pubblica. L’efficienza diventa così non un mezzo, ma una gabbia ideologica: il grimaldello con cui si trasforma il razionamento dei diritti in modernizzazione.

2. I casi che smascherano la retorica

La retorica della neutralità si infrange contro i fatti. E i fatti, in Europa, si sono già accumulati con la forza di una condanna.

Nei Paesi Bassi lo scandalo dei sussidi per l’infanzia, il famigerato Toeslagenaffaire, ha travolto tra le ventiseimila e le trentacinquemila famiglie, accusate ingiustamente di frode da un sistema automatizzato che aveva incorporato, tra i propri indicatori di rischio, la doppia nazionalità e i cognomi stranieri. Migliaia di genitori, in gran parte di origine straniera o proveniente dalle ex colonie caraibiche, si sono visti reclamare la restituzione integrale di somme che spesso superavano le decine di migliaia di euro, senza possibilità di rateizzazione, precipitando nella povertà e nella disperazione. Per oltre duemila bambini quella persecuzione burocratica si è tradotta nell’allontanamento dalle famiglie. Nel gennaio 2021 il governo Rutte è caduto proprio sotto il peso di questo scandalo; una commissione parlamentare lo ha definito un caso di ingiustizia senza precedenti, in cui erano stati violati i principi fondamentali dello Stato di diritto; nel 2022 lo Stato olandese ha ammesso ufficialmente di aver praticato un razzismo istituzionale.

Sempre nei Paesi Bassi, il sistema di sorveglianza denominato SyRI, che costruiva un indicatore di rischio incrociando i dati fiscali, previdenziali e lavorativi dei cittadini, era stato disseminato soprattutto nei quartieri poveri e a forte presenza migrante. Nel febbraio 2020 un tribunale dell’Aja lo ha dichiarato illegittimo per violazione del diritto alla vita privata: è stata la prima volta al mondo che un sistema di welfare digitale è stato fermato da un giudice in nome dei diritti umani. Anche il Relatore speciale delle Nazioni Unite sulla povertà estrema era intervenuto per denunciarne i pericoli.

In Francia il sistema di punteggio della Cassa nazionale per gli assegni familiari, in funzione dal 2010, elabora ogni mese i dati personali di trentadue milioni di persone e produce oltre tredici milioni di punteggi di sospetto. A far salire quel punteggio concorrono il basso reddito, la disoccupazione, il fatto di ricevere il reddito minimo e, in alcune versioni documentate del codice, la percezione dell’assegno per adulti disabili. Contro questo meccanismo si è formata una coalizione che oggi conta venticinque organizzazioni, da Amnesty International a La Quadrature du Net, che ne ha chiesto la sospensione al Consiglio di Stato. Un’ammissione tanto più pesante è arrivata da un documento interno del 2025 della stessa amministrazione francese, che riconosce gli effetti discriminatori del proprio algoritmo.

E non è tutto. In Australia il programma automatizzato ribattezzato Robodebt ha falsamente accusato di frode quasi cinquecentomila beneficiari di prestazioni sociali tra il 2015 e il 2019. In Serbia una carta sociale alimentata da oltre centotrenta categorie di dati ha cancellato il diritto all’assistenza economica a circa quarantaquattromila persone. Non parliamo di incidenti isolati, di errori tecnici da correggere con un aggiornamento del software. Parliamo di un modello, di una direzione di marcia, di una logica che si ripete identica sotto latitudini diverse.

3. Il sospetto come metodo di governo

Se si osservano questi sistemi da vicino, emerge una regolarità che nessuna casualità può spiegare: colpiscono quasi sempre gli stessi. I poveri, i disoccupati, i migranti, le madri sole, le persone con disabilità. Non è un difetto accidentale della macchina: è la sua funzione. Questi algoritmi nascono infatti da una precisa scelta politica, quella di dare la caccia alla frode dei più deboli mentre si distoglie lo sguardo dall’evasione dei più forti. Nessun governo ha mai costruito un sistema predittivo altrettanto ossessivo per stanare i grandi evasori fiscali o i capitali occultati nei paradisi offshore. Il sospetto informatizzato si abbatte sui sussidi da poche centinaia di euro, non sulle rendite da milioni.

La studiosa americana Virginia Eubanks ha coniato per tutto questo un’immagine efficace: l’ospizio digitale dei poveri, la trasposizione informatica di quella antica pratica con cui le società hanno sempre catalogato, sorvegliato e disciplinato la miseria. La tecnologia non inaugura la disuguaglianza: la automatizza, la accelera, la riveste di un’aura di oggettività scientifica. E lo fa attraverso un meccanismo insidioso che gli esperti chiamano discriminazione per procura: l’algoritmo impara dai dati del passato che essere disabili, stranieri o madri sole si accompagna statisticamente a un maggiore rischio, e finisce così per punire non un comportamento, ma una condizione di vita. La marginalità stessa diventa una colpa da dimostrare innocente.

Il risultato è un rovesciamento silenzioso di uno dei pilastri della civiltà giuridica: la presunzione di innocenza. Nel mondo del welfare algoritmico il cittadino fragile non è più innocente fino a prova contraria; è sospetto fino a quando i dati non lo scagionano. E poiché quei dati sono opachi, incrociati, spesso inaccessibili persino a chi ne è vittima, la prova d’innocenza diventa una fatica sfibrante, un labirinto burocratico in cui è facile perdersi e impossibile difendersi ad armi pari.

4. Quando la disabilità diventa un fattore di rischio

C’è un punto, in questa storia, che merita di essere illuminato con una luce particolare, perché tocca la carne viva di milioni di persone e rovescia ogni logica di giustizia. La disabilità, che in una società civile dovrebbe attivare automaticamente la protezione, dentro l’algoritmo si trasforma nel suo contrario: un segnale d’allarme, una spia rossa, un fattore che aumenta il punteggio di sospetto. È accaduto in Francia, dove percepire l’assegno per adulti disabili ha significato, per anni, essere collocati più in alto nella scala del rischio. Un paradosso crudele: la condizione che genera il bisogno viene letta dalla macchina come indizio di potenziale frode.

Eppure sarebbe ingiusto, e falso, dipingere la tecnologia come nemica in sé delle persone con disabilità. Per chi, come chi scrive, vive l’esperienza della cecità, gli strumenti digitali possono rappresentare una straordinaria leva di emancipazione. I lettori di schermo, la sintesi vocale, la descrizione automatica delle immagini, i sistemi di riconoscimento vocale hanno abbattuto barriere che per secoli erano parse insormontabili, restituendo autonomia, parola, possibilità di partecipare alla vita sociale e culturale. La stessa potenza di calcolo che può liberare, però, se piegata all’unico criterio del contenimento della spesa, si trasforma in un cancello: non uno strumento per aprire porte, ma un dispositivo per chiuderle, per filtrare, per razionare. La medesima intelligenza artificiale che può dare voce a chi non vede può togliere il pane a chi non è ritenuto abbastanza redditizio.

È questo il bivio. La tecnologia non è né buona né cattiva: è un campo di battaglia. E la posta in gioco è se la fragilità continuerà a essere riconosciuta come tratto costitutivo dell’esperienza umana, da proteggere in nome della solidarietà, oppure verrà ridotta a un’anomalia statistica da gestire, ottimizzare, all’occorrenza espellere dal perimetro dei beneficiari.

5. L’Italia e il miraggio del welfare “proattivo”

Sarebbe consolante pensare che tutto questo riguardi altri Paesi, altre amministrazioni, altri errori. Non è così. Anche in Italia la macchina si sta mettendo in moto, e lo fa con il linguaggio rassicurante dell’innovazione al servizio del cittadino. L’INPS ha avviato oltre settanta progetti di intelligenza artificiale, molti dei quali già operativi, e presenta con orgoglio quello che chiama welfare generativo o proattivo: un sistema che, grazie alla più grande banca dati d’Europa, anticiperebbe i bisogni delle persone invece di attenderne la domanda. Nel dicembre 2025 la logica predittiva ha permesso di erogare settecentomila bonus mamma in soli dieci giorni, e questo dato viene giustamente esibito come un successo.

Ma il confine tra il servizio che anticipa e il sistema che seleziona è sottile, e va sorvegliato con la massima attenzione. Perché nel frattempo la riforma della disabilità ha affidato interamente all’INPS la nuova valutazione di base, quella procedura che incorpora anche l’accertamento della condizione di non autosufficienza e che dal gennaio 2025 è già sperimentata in nove province pilota. Significa che la definizione stessa di chi è disabile e di chi è non autosufficiente, cioè la porta d’accesso a diritti fondamentali, viene concentrata in un unico ente e progressivamente informatizzata. In un Paese dove i non autosufficienti anziani sono già quasi quattro milioni e sono destinati a superare i cinque milioni entro il 2050, dove il Piano nazionale per la non autosufficienza costruisce complicati doppi binari e soglie ISEE fino a sessantacinquemila euro, la tentazione di trasformare l’accertamento del bisogno in un filtro automatico orientato al risparmio è tutt’altro che teorica.

L’Italia non ha ancora avuto il suo Toeslagenaffaire. La domanda, oggi, è se non stia costruendo, silenziosamente, le condizioni perché accada. E la risposta dipende dalle scelte politiche che sapremo imporre prima che i sistemi diventino irreversibili.

6. Nessun algoritmo è neutrale: chi programma comanda

Il cuore ideologico dell’intera operazione è la pretesa di neutralità. Ma nessun algoritmo cade dal cielo. Ogni sistema è progettato da esseri umani che decidono quali dati raccogliere, quali variabili considerare rilevanti, quali obiettivi perseguire, quali soglie fissare. Dentro ogni riga di codice ci sono interessi economici, priorità politiche, pregiudizi culturali. Vale qui, senza eccezioni, la vecchia legge dell’informatica: se immetti spazzatura, ottieni spazzatura. Se addestri una macchina sui dati di una società diseguale, la macchina restituirà quella disuguaglianza, ma ammantata dell’autorità indiscutibile della matematica.

E c’è una dimensione ulteriore, che collega il welfare algoritmico alle grandi dinamiche del capitalismo contemporaneo. Dietro questi sistemi ci sono spesso colossi tecnologici e società di consulenza privata, che estraggono valore proprio dai dati delle persone più fragili: è la logica di quel capitalismo della sorveglianza che ha fatto dell’informazione personale la materia prima di un’accumulazione senza precedenti. Le funzioni pubbliche più delicate, decidere chi ha diritto a un sussidio, a una cura, a un’assistenza, vengono così esternalizzate a dispositivi opachi, i cui codici sorgente restano segreti persino ai cittadini che ne subiscono gli effetti, come dimostra il rifiuto opposto per anni dall’amministrazione francese a rendere pubblico il proprio. È l’ennesima cessione di sovranità: non più a un mercato astratto, ma a una tecnostruttura privata che si insinua nel corpo dello Stato. È il volto invisibile di un dominio che non ha più bisogno di persuadere, ma soltanto di classificare.

7. La cura è una relazione, non una statistica

Contro questa deriva esistono argini, e vanno nominati. L’Unione Europea, con il proprio regolamento sull’intelligenza artificiale, ha vietato il punteggio sociale e lo sfruttamento delle vulnerabilità legate all’età, alla disabilità o alla condizione economica. È un passo importante, ma fragile: le stesse organizzazioni per i diritti umani avvertono che quel divieto rischia di restare lettera morta se non verrà applicato con nettezza proprio ai sistemi di punteggio antifrode che continuano a colpire i poveri. I tribunali, dall’Aja al Consiglio di Stato francese, hanno mostrato che il diritto può ancora resistere all’automazione cieca. E la nostra Costituzione offre una bussola limpida: l’articolo 2 sulla solidarietà, l’articolo 3 sull’uguaglianza sostanziale, l’articolo 32 sul diritto alla salute, l’articolo 38 sull’assistenza a chi è privo dei mezzi necessari per vivere. Sono i principi che un grande giurista come Stefano Rodotà ha difeso fino all’ultimo, ricordando che la dignità della persona non è negoziabile e non può essere ridotta a un dato.

Ma nessuna norma, da sola, potrà salvarci. Perché il vero motore di questi sistemi non è tecnico, è politico: è la scelta di considerare la spesa sociale un costo da abbattere anziché un investimento di civiltà. Finché resterà intatta quella premessa, gli algoritmi continueranno a essere costruiti per selezionare, filtrare, escludere, quale che sia la legge scritta sulla carta.

Alla fine tutto si riduce a una verità semplice e incancellabile: la cura non è una variabile economica, non è un algoritmo, non è una statistica. La cura è una relazione umana fondata sul riconoscimento della dignità dell’altro, sul farsi carico della sua fragilità come se fosse la nostra. Una società che affida a una macchina la decisione su chi meriti di essere assistito ha già smarrito il senso stesso della parola giustizia. La qualità democratica di un Paese si misurerà sempre più su questo crinale: se la tecnologia sarà usata per ampliare i diritti o per restringerli, per riconoscere le persone o per ridurle a punteggi. Nell’era dell’intelligenza artificiale la domanda decisiva resta quella di sempre, e non ammette risposte tiepide: la fragilità sarà un valore umano da proteggere o un costo da tagliare? Dalla risposta non dipende soltanto il futuro degli anziani e delle persone con disabilità. Dipende ciò che avremo ancora il diritto di chiamare democrazia.

Fonti

Amnesty International, France: Government must stop using dangerous AI-powered surveillance to tackle benefit fraud (2024–2026).

La Quadrature du Net, CNAF’s discriminatory scoring algorithm: 10 new organisations join the case before the Conseil d’État in France (gennaio 2026).

Lighthouse Reports, The Algorithm Addiction (2023).

Autoriteit Persoonsgegevens e Tweede Kamer, indagine e rapporto parlamentare Ongekend onrecht sul caso Toeslagenaffaire, Paesi Bassi (2020–2021).

Parlamento europeo, interrogazione O-000028/2022 su childcare benefit scandal, razzismo istituzionale e algoritmi.

Secondo Welfare, Tre domande per riflettere sul welfare nell’era degli algoritmi (gennaio 2025).

Agenda Digitale, Più efficienza, meno giustizia: il paradosso del welfare digitale (luglio 2025).

Unione Europea, Regolamento (UE) 2024/1689 (AI Act), art. 5, e linee guida della Commissione sulle pratiche vietate (febbraio 2025).

INPS, Al via la Prestazione Universale per anziani non autosufficienti; materiali sul welfare proattivo e sulla valutazione di base (D.Lgs. 62/2024 e 29/2024).

ISTAT, dati sulla popolazione anziana non autosufficiente; Piano nazionale per la non autosufficienza 2025–2027.

Virginia Eubanks, Automating Inequality (2018), per il concetto di ospizio digitale dei poveri.

Shoshana Zuboff, Il capitalismo della sorveglianza (2019).

«Quando l’ingiustizia si fa legge, ribellarsi diventa un dovere»

Licenza Creative Commons CC BY-NC-SA 4.0