L’intelligenza artificiale può scrivere email, organizzare riunioni e persino aiutare a gestire un’azienda. Ma può anche capire se un lavoratore è stressato, demotivato o insoddisfatto?
È questa la domanda che ha portato il Garante per la protezione dei dati personali a intervenire nei confronti di una startup italiana che stava sviluppando un sistema capace di analizzare le comunicazioni aziendali per ricavare informazioni sul benessere emotivo dei dipendenti.
Una vicenda che va ben oltre la privacy e che apre un dibattito destinato a diventare sempre più attuale: fino a che punto l’intelligenza artificiale può entrare nella sfera più personale delle persone?
Come funzionava il sistema
L’idea era apparentemente semplice. Attraverso l’analisi dei messaggi scambiati nelle piattaforme di lavoro, il software avrebbe dovuto individuare segnali di stress, disagio o malessere organizzativo.
L’obiettivo dichiarato era aiutare le aziende a comprendere meglio il clima interno e a prevenire situazioni problematiche.
Il problema, però, è che per raggiungere questo risultato l’intelligenza artificiale deve interpretare il linguaggio umano e attribuire significati psicologici alle parole utilizzate dai lavoratori.
In pratica, un algoritmo finirebbe per formulare ipotesi sulle emozioni delle persone sulla base dei loro messaggi.
Perché il Garante è preoccupato
Secondo il Garante, quando si entra nel terreno delle emozioni e degli stati psicologici il rischio per i diritti fondamentali diventa particolarmente elevato.
Le emozioni non sono dati come gli altri. Possono essere interpretate male, estrapolate dal contesto o utilizzate per costruire profili personali che influenzano valutazioni e decisioni sul lavoro.
Inoltre, nel rapporto tra azienda e dipendente esiste sempre una differenza di potere che rende particolarmente delicata qualsiasi forma di monitoraggio.
Per questo motivo l’Autorità ha richiamato l’attenzione sulla necessità di rispettare rigorosamente le norme europee sulla protezione dei dati.
Cosa dice l’AI Act europeo
La decisione arriva in un momento importante perché l’Europa sta iniziando ad applicare le nuove regole previste dall’AI Act.
Tra le pratiche considerate più problematiche ci sono proprio i sistemi che cercano di dedurre emozioni e stati d’animo delle persone nei contesti lavorativi o scolastici.
Il motivo è semplice: non esistono prove scientifiche sufficienti per garantire che un algoritmo possa comprendere davvero ciò che una persona prova.
Un’espressione, una frase o un tono di scrittura possono avere significati molto diversi a seconda del contesto. Affidare queste valutazioni a una macchina rischia quindi di produrre errori, discriminazioni e decisioni ingiuste.
La nuova frontiera della sorveglianza digitale
Per anni il dibattito sulla privacy si è concentrato sui dati personali: nomi, email, numeri di telefono o cronologia di navigazione.
L’intelligenza artificiale cambia però completamente lo scenario.
Oggi il vero valore non sta solo nei dati raccolti, ma nelle informazioni che un algoritmo riesce a dedurre da quei dati.
Una semplice conversazione può trasformarsi in un indicatore di stress. Un cambiamento nel linguaggio utilizzato può essere interpretato come un segnale di disagio. Una serie di messaggi può diventare la base per un profilo emotivo.
È qui che si apre una delle sfide più importanti dell’era dell’IA: proteggere non solo i nostri dati, ma anche la nostra sfera emotiva.
Un caso che riguarda tutti
La vicenda dimostra come l’intelligenza artificiale stia entrando sempre più in profondità nella vita quotidiana e nei luoghi di lavoro.
Tecnologie che fino a pochi anni fa sembravano fantascienza stanno diventando prodotti commerciali concreti. Proprio per questo il confronto tra innovazione, diritti e libertà individuali è destinato a diventare uno dei temi centrali dei prossimi anni.
Perché una cosa è usare l’IA per aiutare le persone a lavorare meglio. Un’altra è permettere a un algoritmo di decidere come si sentono.
Per ora il Garante ha tracciato una linea molto chiara: le emozioni dei lavoratori non possono diventare un dato da analizzare come qualsiasi altra informazione.
