Invii il curriculum per un lavoro e non vieni chiamato.

Chiedi un finanziamento e la tua pratica viene considerata più rischiosa di altre.

Presenti una richiesta a un ente e il tuo caso finisce in fondo a una lista di priorità.

Un medico consulta un sistema che segnala alcuni elementi come più rilevanti di altri.

In tutti questi casi, la decisione finale può essere ancora presa da una persona.

Ma c’è una domanda che dovremmo cominciare a farci più spesso:

quando quella persona decide, cosa ha già deciso l’intelligenza artificiale prima di lei?

È qui che si apre quella che possiamo definire una zona di influenza algoritmica.

Non serve che l’IA decida al posto nostro

Quando immaginiamo il rischio legato all’intelligenza artificiale, pensiamo spesso a una macchina che prende autonomamente una decisione.

La realtà può essere molto più sottile.

L’intelligenza artificiale può non avere il potere di dire formalmente “sì” o “no”, ma può selezionare ciò che un essere umano vedrà, stabilire l’ordine delle informazioni, assegnare punteggi, evidenziare anomalie e indicare quali casi meritano maggiore attenzione.

Ed è sufficiente questo per orientare profondamente una scelta.

Immaginiamo cento candidature per un posto di lavoro.

Un sistema le analizza e assegna a ciascuna un punteggio.

Il responsabile delle risorse umane mantiene formalmente la decisione finale, ma probabilmente inizierà a leggere i curriculum che il sistema ha collocato nelle prime posizioni.

Che cosa accade al candidato finito al numero 87?

Forse il suo curriculum verrà comunque letto.

Forse no.

Eppure nessuna macchina lo ha formalmente escluso.

Quando il punteggio diventa realtà

Lo stesso può accadere quando chiediamo un prestito, stipuliamo un’assicurazione o utilizziamo un servizio digitale.

Un sistema può attribuirci un profilo di rischio sulla base di una serie di informazioni.

Quel punteggio può diventare uno degli elementi utilizzati da chi dovrà valutare la nostra posizione.

Anche in questo caso, la firma finale può essere umana.

Ma una valutazione negativa prodotta dal sistema potrebbe aver già condizionato il modo in cui la nostra richiesta viene osservata.

Il problema diventa ancora più delicato quando non sappiamo quali elementi abbiano inciso su quel risultato.

Potremmo trovarci davanti a una decisione formalmente umana, ma costruita a partire da una rappresentazione di noi che non conosciamo e che non abbiamo avuto la possibilità di verificare.

Anche ciò che non vediamo può influenzarci

La zona di influenza algoritmica non riguarda soltanto decisioni amministrative o finanziarie.

Pensiamo a qualcosa che facciamo ogni giorno.

Apriamo un social network.

Non vediamo tutti i contenuti disponibili.

Vediamo quelli che un sistema ha selezionato, ordinato e ritenuto più rilevanti per noi.

Cerchiamo una notizia, un prodotto, un ristorante, un video.

Anche in questo caso non partiamo da un universo neutrale di possibilità: partiamo da una selezione già effettuata.

Questo non significa che l’algoritmo determini automaticamente ciò che penseremo o faremo.

Significa però che contribuisce a costruire l’ambiente informativo dentro il quale formeremo la nostra scelta.

Ed è una forma di influenza molto più difficile da percepire proprio perché avviene prima della decisione.

Il rischio dell’autorevolezza algoritmica

C’è poi un altro elemento.

Di fronte a un risultato prodotto da un sistema sofisticato, possiamo essere portati ad attribuirgli maggiore autorevolezza.

Un punteggio, una percentuale o una classificazione possono apparire più oggettivi di una valutazione umana.

Ma quei risultati derivano comunque da dati, criteri, soglie e scelte effettuate durante la progettazione e l’utilizzo del sistema.

Il numero che compare sullo schermo può sembrare neutrale.

Non necessariamente lo è.

Se un sistema assegna a una persona un rischio dell’82%, la vera domanda non dovrebbe essere soltanto: “quanto è alto il rischio?”.

Dovremmo anche chiederci:

come è stato costruito quell’82%?

La vera domanda non è chi decide

È qui che cambia completamente il modo di osservare l’intelligenza artificiale.

La questione non è soltanto stabilire chi abbia formalmente l’ultima parola.

Conta anche capire chi seleziona le informazioni, chi stabilisce le priorità e quali criteri orientano il processo prima che arrivi la decisione finale.

Un essere umano può continuare a firmare il provvedimento, approvare il finanziamento, selezionare il candidato o confermare una valutazione.

Ma quella decisione può essere stata preceduta da una serie di passaggi invisibili capaci di orientarne profondamente l’esito.

È questa la zona di influenza algoritmica.

Ed è probabilmente uno dei luoghi meno visibili, ma più importanti, in cui oggi si sta spostando il potere decisionale.

La domanda da porsi, allora, non è soltanto:

“L’intelligenza artificiale deciderà al posto nostro?”

Ma soprattutto:

“Quanto pesa davvero l’intelligenza artificiale sulle decisioni che crediamo ancora interamente nostre?”