L’intelligenza artificiale generativa finisce ancora una volta sotto la lente delle autorità di controllo. Il Garante per la protezione dei dati personali ha inflitto una sanzione da 158 mila euro a Character.AI, una delle piattaforme di chatbot più popolari al mondo, contestando una serie di violazioni nella gestione dei dati personali e, soprattutto, nella protezione degli utenti minorenni.
Secondo l’Autorità, la piattaforma non avrebbe predisposto misure adeguate per verificare efficacemente l’età degli utenti, né avrebbe fornito informative sufficientemente chiare sul trattamento dei dati personali. A queste criticità si aggiungono carenze nelle misure tecniche e organizzative destinate a ridurre il rischio che i minori possano essere esposti a contenuti o interazioni inappropriate.
La tutela dei minori diventa il nuovo banco di prova dell’intelligenza artificiale
Il provvedimento conferma un orientamento sempre più evidente delle autorità europee: l’innovazione tecnologica non può prescindere dalla protezione dei soggetti più vulnerabili.
I chatbot basati sull’intelligenza artificiale stanno rapidamente entrando nella quotidianità di milioni di persone, offrendo conversazioni sempre più realistiche e coinvolgenti. Proprio questa capacità di simulare relazioni umane rende particolarmente delicato il loro utilizzo da parte dei minori, che possono instaurare rapporti di fiducia con sistemi privi di reale consapevolezza e responsabilità.
Negli ultimi mesi il dibattito internazionale si è intensificato, spingendo regolatori e governi a chiedere controlli più rigorosi sulle piattaforme di AI generativa.
Un segnale per tutto il settore
La decisione del Garante non riguarda soltanto Character.AI. Il messaggio è rivolto all’intero ecosistema dell’intelligenza artificiale.
Le aziende che sviluppano servizi basati sull’AI dovranno dimostrare di aver integrato la tutela dei dati personali e dei minori fin dalla progettazione dei propri sistemi. Non sarà più sufficiente offrire strumenti innovativi: occorrerà dimostrare la conformità al GDPR attraverso verifiche dell’età proporzionate, informative trasparenti, valutazioni dei rischi e misure concrete per prevenire utilizzi potenzialmente dannosi.
L’Europa accelera sui controlli
Il caso Character.AI si inserisce in un contesto europeo caratterizzato da una crescente attenzione verso l’intelligenza artificiale. Accanto all’AI Act, anche le autorità garanti della privacy stanno rafforzando la vigilanza sull’uso degli algoritmi e dei sistemi conversazionali.
Per le piattaforme di AI generativa il tema della tutela dei minori rischia così di diventare uno dei principali fronti regolatori dei prossimi anni. E per gli utenti rappresenta un promemoria importante: la sicurezza digitale non dipende soltanto dalla tecnologia, ma anche dalla capacità delle aziende di progettare servizi realmente rispettosi dei diritti fondamentali.
