Secondo Reuters il governo italiano ha preso questa decisione perché il chatbot potrebbe rappresentare un rischio per “i giovani che sono ancora in fase di sviluppo o in uno stato emotivamente instabile”. Lo sviluppatore del chatbot rischia addirittura una multa di decine di milioni di euro. Per evitare ciò, Replika non potrà più trattare i dati degli utenti italiani a tempo indeterminato. Inoltre, è richiesto dall’autorità italiana per la protezione dei dati personali di attuare immediatamente le modifiche.

Secondo la normativa europea, i servizi come Replika (anche se hanno uno scopo socialmente responsabile) non sono autorizzati a raccogliere dati di minori. E questo per il semplice motivo che chi ha meno di 18 anni non può stipulare contratti. Inoltre, l’ente governativo italiano giustifica che i minori possano utilizzare il servizio senza la supervisione dei genitori, poiché non è richiesta la conferma dell’età. E anche se i bambini dovessero dire al chatbot che sono minorenni, non ci sarebbe alcun sistema per interrompere l’interazione o interrompere il servizio.

Replika come strumento per i giovani

In questo caso c’è da chiedersi se la normativa europea non si spinga troppo oltre. Il numero di giovani con problemi mentali è in aumento e hanno bisogno di un orecchio che li ascolti o del consiglio di un consulente (digitale) confidenziale. Il Garante per la protezione dei dati personali italiano considera Replika un prodotto per la salute, che in molti altri casi è spesso (giustamente) soggetto a severe condizioni.