Ho riletto L’Era del Silenzio dopo aver incontrato una notizia che sembra appartenere alla fantascienza, ma arriva da migliaia di documenti della polizia di New York.
Amnesty International e il Surveillance Technology Oversight Project li hanno ottenuti dopo una causa durata cinque anni. Dai documenti emerge che il riconoscimento facciale è stato usato per identificare manifestanti, seguire persone critiche verso la polizia e sottoporre alcuni artisti a una sorta di confronto virtuale per ciò che avevano mostrato in un video musicale. In un altro episodio, due uomini furono indicati come sospetti perché non ballavano e uno di loro parlava al telefono in una lingua definita semplicemente “mediorientale”.
Non è il racconto di una macchina che prende il potere. Sono esseri umani che consegnano a una macchina un pregiudizio, una paura o un obiettivo politico, e ricevono indietro un nome. L’intelligenza artificiale rende l’operazione più rapida, più vasta e molto meno visibile.
È già accaduto anche altrove. Nel 2023 la Corte europea dei diritti dell’uomo ha condannato l’uso del riconoscimento facciale da parte delle autorità di Mosca contro un uomo che aveva partecipato a una manifestazione solitaria e pacifica. Il suo volto era servito a trasformare l’espressione di un’opinione in una traccia da seguire. La Corte ha stabilito che erano stati violati sia il diritto alla vita privata sia la libertà di espressione.
L’Unione europea ha provato a fissare un confine. L’AI Act vieta la raccolta indiscriminata di immagini da Internet o dalle telecamere per costruire archivi di riconoscimento facciale. Vieta anche, salvo eccezioni ristrette, l’identificazione biometrica remota in tempo reale negli spazi pubblici per finalità di polizia. Se è stato necessario scriverlo in una legge, significa che quella possibilità non è più una fantasia.
Il racconto che apre il mio libro Cronache al di là del tempo è ambientato nel 2042. Le intelligenze artificiali hanno cambiato nome: si chiamano “intelligenze commerciali”, un’espressione più rassicurante, simile a qualcosa che si compra al supermercato. Conoscono i pensieri, intercettano emozioni e desideri, anticipano ogni bisogno. Le persone non sono state obbligate a smettere di parlare. Parlare è semplicemente diventato inutile.
Questa distinzione per me è il centro del racconto. Il potere autoritario più efficace non si presenta sempre con un divieto. Può arrivare sotto forma di comodità, sicurezza, salute, assistenza personalizzata. Non dice: “Non uscire”. Fa in modo che uscire sembri faticoso e privo di senso. Non dice: “Non pensare”. Offre un sistema che pensa prima di te. Non dice: “Taci”. Ti convince che la voce sia una tecnologia superata.
Nella Confederazione Cino-Nordamericana di L’Era del Silenzio, i cittadini devono tenere gli occhi aperti. Gli schermi hanno bisogno del loro sguardo e le intelligenze commerciali hanno bisogno delle reazioni chimiche prodotte dalle immagini. Gli occhi conservano un grande valore, ma non appartengono più del tutto a chi guarda. Anche oggi il volto è insieme una parte intima del corpo, un documento e una password che lasciamo esposta ogni volta che attraversiamo una strada.
Il passaggio dalla sorveglianza al controllo avviene quando cominciamo a modificare il nostro comportamento prima ancora che qualcuno ce lo chieda. Evitiamo un luogo, una parola, una manifestazione. Non sappiamo se una telecamera ci abbia riconosciuti. È sufficiente sapere che potrebbe farlo.
L’Era del Silenzio non nasce dalla paura che le macchine diventino cattive. Nasce da un dubbio più umano: quanto siamo disposti a cedere se, in cambio, il sistema ci promette di non farci più sentire soli, confusi o in pericolo? Il futuro autoritario non deve necessariamente spezzare la porta. Può aspettare che siamo noi ad aprirla, convinti che dall’altra parte ci sia soltanto un servizio migliore.