L’Europa torna a confrontarsi con una delle questioni più controverse dell’era digitale: fino a che punto è legittimo controllare le comunicazioni private per proteggere i cittadini più vulnerabili? L’approvazione da parte del Parlamento europeo della nuova posizione su Chat Control non rappresenta soltanto un passaggio legislativo. È il simbolo di un cambiamento culturale che coinvolge sicurezza, diritti fondamentali, intelligenza artificiale e fiducia nelle tecnologie digitali.
Dietro una norma nata per contrastare la diffusione del materiale pedopornografico online si nasconde infatti una domanda molto più ampia: possiamo chiedere ai nostri dispositivi di diventare strumenti di sorveglianza senza compromettere la libertà digitale conquistata negli ultimi decenni?
L’editoriale non riguarda soltanto una legge europea. Riguarda il modello di società digitale che stiamo costruendo.
La sicurezza dei minori non è in discussione
Esiste un punto sul quale nessuno, realisticamente, può avere dubbi: la lotta agli abusi sessuali sui minori online rappresenta una priorità assoluta.
Negli ultimi anni la diffusione dei contenuti di abuso sui minori (CSAM) è aumentata in modo esponenziale, favorita dalla crescita delle piattaforme digitali, dalla cifratura delle comunicazioni e dall’enorme quantità di dati che ogni giorno attraversano Internet.
Per questo motivo l’Unione europea cerca ormai da anni di dotarsi di strumenti più efficaci per individuare immagini, video e tentativi di adescamento prima che producano nuove vittime.
Il problema, tuttavia, non riguarda il fine perseguito, ma gli strumenti utilizzati.
Nella storia delle democrazie moderne le limitazioni ai diritti fondamentali sono sempre state giustificate da esigenze di sicurezza. La differenza la fanno le garanzie.
Ed è proprio su questo terreno che Chat Control continua a dividere governi, imprese tecnologiche, giuristi ed esperti di cybersecurity.
La privacy non è l’unico diritto da difendere
Gran parte del dibattito pubblico si è concentrato sulla privacy.
In realtà il tema è molto più complesso.
La crittografia end-to-end non serve semplicemente a impedire che qualcuno legga una conversazione privata. Costituisce uno dei pilastri della sicurezza informatica moderna.
Ogni giorno protegge:
- operazioni bancarie;
- comunicazioni aziendali;
- cartelle cliniche;
- dati giudiziari;
- informazioni militari;
- attività giornalistiche;
- segnalazioni dei whistleblower;
- comunicazioni diplomatiche.
Indebolire, anche indirettamente, questo sistema significa aumentare la superficie di attacco per criminali informatici, organizzazioni criminali e Stati ostili.
Ecco perché molti esperti preferiscono parlare di sicurezza collettiva piuttosto che di semplice tutela della privacy.
La fiducia nelle comunicazioni digitali è infatti una componente essenziale dell’economia europea.
Il Parlamento europeo ha scelto una strada diversa
Uno degli aspetti più significativi dell’ultima votazione riguarda proprio la crittografia.
Gli eurodeputati hanno infatti approvato un emendamento che esclude dalla scansione preventiva le comunicazioni protette dalla crittografia end-to-end.
Si tratta di una scelta politicamente importante.
Significa riconoscere che la protezione dei minori non può tradursi automaticamente nella possibilità di controllare qualsiasi conversazione privata.
È un tentativo di trovare un equilibrio tra due interessi entrambi fondamentali:
- proteggere i bambini;
- preservare la sicurezza delle comunicazioni digitali.
Non è un compromesso definitivo, ma rappresenta un cambio di rotta rispetto alle versioni precedenti della proposta legislativa.
Il vero nodo si chiama client-side scanning
Molti cittadini hanno sentito parlare di backdoor.
In realtà il dibattito tecnico oggi si concentra soprattutto su un altro concetto: il client-side scanning.
L’idea è apparentemente semplice.
Anziché intercettare un messaggio durante la trasmissione, il controllo potrebbe avvenire direttamente sul dispositivo dell’utente, prima della cifratura oppure dopo la decifratura.
Dal punto di vista tecnico la crittografia resterebbe formalmente intatta.
Dal punto di vista sostanziale, però, molti ricercatori sostengono che il risultato sarebbe molto simile.
Se un software è in grado di analizzare automaticamente fotografie, video, documenti o messaggi prima dell’invio, il principio secondo cui solo mittente e destinatario possono conoscere il contenuto della comunicazione perde parte della sua efficacia.
È questa la principale ragione delle critiche provenienti dalla comunità scientifica.
L’intelligenza artificiale entrerà inevitabilmente nel sistema
C’è un elemento che nel dibattito pubblico viene spesso sottovalutato.
La futura applicazione di Chat Control sarà inevitabilmente legata all’intelligenza artificiale.
Analizzare miliardi di contenuti ogni giorno sarebbe impossibile senza algoritmi di machine learning, sistemi di riconoscimento delle immagini e modelli di classificazione automatica.
L’AI rappresenta quindi contemporaneamente:
- uno strumento investigativo;
- un acceleratore tecnologico;
- una possibile fonte di errori.
Anche i migliori modelli di intelligenza artificiale possono produrre falsi positivi.
Una fotografia perfettamente lecita potrebbe essere segnalata erroneamente.
Un contenuto ambiguo potrebbe richiedere una valutazione umana.
Un algoritmo potrebbe riflettere bias presenti nei dati di addestramento.
Per questo motivo la trasparenza degli algoritmi diventerà un elemento centrale della futura regolamentazione europea.
Il precedente di Apple continua a insegnare qualcosa
Nel 2021 Apple aveva presentato un sistema molto simile basato proprio sull’analisi locale delle immagini archiviate sugli iPhone.
L’obiettivo era identico: individuare materiale pedopornografico senza compromettere formalmente la crittografia.
La reazione della comunità scientifica fu però durissima.
Crittografi, ricercatori, università e associazioni per i diritti digitali evidenziarono un rischio molto preciso.
Una volta realizzata un’infrastruttura capace di controllare automaticamente i contenuti presenti sui dispositivi, nulla garantirebbe che il suo utilizzo resti limitato a un solo scopo.
Il problema non sarebbe quindi l’intenzione iniziale, ma il precedente tecnologico.
Apple decise infine di ritirare completamente il progetto.
Quel caso continua ancora oggi a rappresentare uno dei riferimenti principali nel dibattito internazionale.
La fiducia sarà la vera moneta della società digitale
L’economia digitale vive di un elemento spesso invisibile: la fiducia.
Quando inviamo un messaggio, effettuiamo un bonifico, condividiamo un referto medico o archiviamo dati nel cloud, lo facciamo perché riteniamo che quei sistemi siano sicuri.
Se questa fiducia viene meno, il danno non riguarda soltanto la privacy individuale.
Riguarda imprese, pubbliche amministrazioni, professionisti e cittadini.
L’Europa sta cercando di costruire un modello tecnologico diverso rispetto a quello statunitense e cinese: più regolamentato, più trasparente e maggiormente orientato alla tutela dei diritti fondamentali.
Chat Control rappresenta uno dei test più difficili per verificare se questo equilibrio sia davvero possibile.
Il prossimo passo deciderà molto più di una legge
L’iter legislativo non è ancora concluso.
Il testo dovrà ora essere esaminato dal Consiglio dell’Unione europea e, se emergeranno posizioni differenti, potrebbe aprirsi una nuova fase di negoziazione tra le istituzioni europee.
Qualunque sarà l’esito finale, una cosa appare già evidente.
Il vero interrogativo non è se utilizzare la tecnologia per combattere i reati online. È capire quali limiti siamo disposti a imporre alla tecnologia quando entra nella sfera più privata della nostra vita.
Nei prossimi anni l’intelligenza artificiale renderà possibili controlli sempre più sofisticati, veloci e invisibili. La questione non sarà più soltanto cosa la tecnologia è capace di fare, ma cosa una democrazia ritiene giusto permetterle di fare.
