Quando gli adulti diventano “bambini” online: come QEI potrebbe contribuire a proteggere i minori

Online, una persona adulta può diventare in pochi secondi un quattordicenne. Un bambino, invece, può diventare “maggiorenne” con un solo clic. In un periodo in cui il dibattito sugli abusi sessuali sui minori, sulla pedofilia e sul grooming online è sempre più intenso, si pone una domanda importante: l’identità digitale del futuro può proteggere i minori in modo più efficace senza trasformarli in soggetti di sorveglianza digitale permanente? Nell’ambito dell’iniziativa QEI – Quantized Encrypted Identity dell’Istituto 1. april stiamo esplorando proprio questo tipo di approccio.

Quando l’età su Internet è solo un dato che inseriamo noi stessi

Il mondo digitale ha dato ai bambini accesso alla conoscenza, alla comunicazione, all’intrattenimento e alla creatività in una misura che le generazioni precedenti non avevano mai conosciuto.

Ma la stessa apertura ha creato anche un problema serio.

Online spesso non sappiamo chi si trovi realmente dall’altra parte dello schermo.

Un bambino può inserire una data di nascita falsa e ottenere accesso a un ambiente destinato agli adulti.

Un adulto può fare esattamente il contrario.

In pochi minuti può creare un profilo, scegliere una fotografia, inserire un’età falsa e iniziare a presentarsi come un ragazzo o una ragazza di 13, 14 o 15 anni.

Per il sistema, questo può essere sufficiente.

Ma un’età dichiarata non è la stessa cosa di un’età verificata.

Ed è proprio questa differenza a diventare sempre più importante.

Le attuali discussioni sugli abusi sessuali sui minori, sulla pedofilia e sul grooming online dovrebbero quindi andare oltre le divisioni politiche.

La domanda non è chi abbia sollevato per primo il problema.

La domanda è:

Cosa possiamo realmente fare, come società, per proteggere meglio i bambini?

La legge, la polizia, la magistratura, il sistema educativo, i genitori, le scuole e le piattaforme digitali hanno tutti un ruolo da svolgere.

Ma anche la tecnologia deve diventare parte della risposta.

Due lati della stessa falla digitale

Il sistema attuale presenta due problemi opposti.

Il primo riguarda un bambino che online si presenta come adulto per accedere a contenuti o servizi che, in base alla sua età, non dovrebbero essergli disponibili.

Il secondo è potenzialmente ancora più pericoloso:

un adulto che si presenta come bambino.

Questo aspetto è particolarmente importante nei social network, nelle chat, nei giochi online, nelle applicazioni di comunicazione e in altri ambienti digitali nei quali un adulto può entrare in contatto con un minore.

Nel grooming online, l’autore può conquistare gradualmente la fiducia del bambino, nascondere la propria identità o la propria età reale e spostare nel tempo la comunicazione in ambienti sempre più privati.

Nessuna tecnologia, da sola, può impedire la pedofilia, gli abusi sessuali o tutte le forme di grooming.

Ma questo non significa che la tecnologia non possa eliminare alcune delle opportunità che facilitano tali comportamenti.

QEI Child Protection

Nell’ambito della più ampia iniziativa QEI – Quantized Encrypted Identity vediamo la possibilità di sviluppare un sottosistema specializzato:

QEI CHILD PROTECTION

Il suo scopo non sarebbe quello di sapere quali siti web visita un bambino.

Non dovrebbe nemmeno essere quello di creare un registro centrale della vita digitale del bambino.

L’idea di base è diversa:

verificare il diritto di accesso senza dover rivelare l’intera identità dell’utente.

Questa è una differenza importante.

Se un servizio online deve soltanto sapere se un utente ha più di 18 anni, perché dovrebbe ricevere automaticamente nome, cognome, indirizzo, numero del documento d’identità e data di nascita esatta?

Potrebbe aver bisogno soltanto di una risposta verificabile crittograficamente:

18+ : SÌ

oppure

18+ : NO

Questo è uno dei principi fondamentali esplorati dal concetto QEI:

dimostrare l’attributo necessario rivelando la quantità minima possibile di dati personali.

“Proteggere un bambino non dovrebbe significare costringerlo a rivelare la propria identità a ogni sito web. La tecnologia del futuro dovrebbe essere in grado di verificare ciò che è necessario senza conoscere tutto.”
— Istituto 1. april

Quando “Ho 18 anni” non sarebbe più sufficiente

Oggi, in alcune parti di Internet, la verifica dell’età è quasi simbolica.

All’utente viene chiesto:

«Hai più di 18 anni?»

Clicca:

SÌ.

E continua.

Una soluzione di questo tipo non verifica praticamente nulla.

Nel modello QEI Child Protection, un servizio online potrebbe richiedere una conferma digitale verificabile del requisito di età invece di affidarsi esclusivamente alla dichiarazione dell’utente.

Concettualmente, il processo potrebbe essere molto semplice:

utente → verifica QEI → prova della categoria di età → decisione sull’accesso

Se l’utente è minorenne:

QEI AGE STATUS: UNDER 18

ACCESS: DENIED

Il servizio non ha bisogno del nome del bambino.

Non ha bisogno del suo indirizzo.

E potenzialmente nemmeno della sua data di nascita esatta.

Apprende soltanto ciò che deve sapere:

l’utente non soddisfa il requisito di età richiesto.

Ma la protezione deve funzionare anche nella direzione opposta

È qui che il concetto diventa particolarmente interessante.

Cosa succede se un determinato ambiente digitale è destinato ai bambini?

Oggi un adulto può semplicemente inserire:

Età: 14 anni.

Se la piattaforma non verifica questa informazione, per il sistema quella persona può risultare un “bambino”.

Con QEI si potrebbe esplorare un modello diverso.

Un utente potrebbe avere una categoria di età verificata senza dover rivelare la propria identità agli altri utenti.

La piattaforma potrebbe ricevere soltanto:

VERIFIED MINOR

oppure:

ADULT

Un adulto non potrebbe quindi ottenere lo status di minore verificato semplicemente inserendo una data di nascita falsa.

Negli ambienti digitali particolarmente protetti per i bambini, determinate funzioni o spazi potrebbero essere limitati a categorie di età verificate.

Questo non significa che gli adulti debbano essere esclusi da tutti gli ambienti nei quali sono presenti bambini.

Genitori, insegnanti, allenatori, moderatori e altri adulti autorizzati possono avere ruoli legittimi.

Ma il loro ruolo potrebbe essere chiaramente definito e verificabile digitalmente.

Un adulto non sarebbe un “quattordicenne”.

Sarebbe un adulto verificato con uno specifico ruolo autorizzato.

QEI Child Key – una chiave digitale che non può essere aggirata con un solo clic

Un’ulteriore possibilità di sviluppo è un elemento di sicurezza che, ai fini del concetto, possiamo chiamare:

QEI CHILD KEY

La “chiave” non dovrebbe necessariamente essere una classica chiavetta USB.

Potrebbe essere un elemento fisico dedicato, una parte sicura di uno smartphone, una smart card, un secure element o un’altra soluzione tecnica.

Il suo compito sarebbe proteggere la credenziale QEI oppure partecipare alla dimostrazione dello status richiesto dell’utente.

L’aspetto importante è che la protezione non dovrebbe essere soltanto un’impostazione del browser che l’utente può disattivare.

Potrebbe essere creata una catena di fiducia:

identità QEI → chiave protetta → dispositivo → verifica → servizio digitale

Se l’utente non dispone dell’autorizzazione necessaria, il servizio non concede l’accesso.

Non mostra semplicemente un avviso.

Non chiede un altro clic.

L’accesso semplicemente non viene consentito.

L’identità del bambino non deve essere inviata a ogni sito web

Qui emerge un importante paradosso.

Per proteggere i bambini in modo più efficace, abbiamo bisogno di una verifica dell’età più affidabile.

Ma se la soluzione significasse che il bambino deve inviare a ogni sito web il documento d’identità, una fotografia del volto, la data di nascita e altri dati personali, potremmo creare un nuovo problema.

Finiremmo per raccogliere enormi quantità di dati estremamente sensibili sui minori.

QEI esplora la direzione opposta.

Più verificabilità, meno divulgazione.

Un sito web non ha bisogno di conoscere la risposta alla domanda:

«Chi è questo bambino?»

Se lo scopo è soltanto applicare un limite di età, ha bisogno della risposta:

«Questo utente soddisfa la soglia di età richiesta?»

Sono due domande completamente diverse.

L’anonimato non è la stessa cosa di un’identità non verificata

Anche un utente adulto non dovrebbe essere costretto a rivelare pubblicamente il proprio nome soltanto perché il sistema deve verificarne l’età.

Questo è importante.

QEI potrebbe distinguere tra l’identità pubblica dell’utente e gli attributi della sua identità verificati crittograficamente.

Una persona può utilizzare uno pseudonimo su una piattaforma.

Un altro utente non conosce il suo nome, indirizzo o i dati del documento d’identità.

Ma il sistema potrebbe comunque verificare:

ADULT – VERIFIED

Questo apre la possibilità di un compromesso che spesso viene trascurato nelle discussioni attuali:

privacy e verificabilità non si escludono necessariamente a vicenda.

Proteggere un bambino non deve diventare sorvegliare un bambino

Questo è uno dei limiti più importanti dell’intero concetto.

In nome della protezione dei bambini sarebbe molto facile creare un’infrastruttura capace di seguire quasi ogni loro passo digitale.

Quale sito ha visitato il bambino. Cosa ha cercato. Con chi ha parlato. Cosa ha letto. Quando era online.

Un’architettura del genere potrebbe diventare pericolosa di per sé.

Per questo uno dei principi fondamentali di QEI Child Protection dovrebbe essere:

“Non seguire il bambino. Verifica il diritto di accesso. La protezione dei minori non deve diventare un’infrastruttura per sorvegliare la loro vita digitale.”
— Istituto 1. april

Se il sistema decide soltanto se l’utente ha il diritto di accedere a un determinato servizio, non ha bisogno di conoscere l’intera cronologia online del bambino.

Serve soltanto l’informazione necessaria per quella specifica decisione.

Questo significa esplorare divulgazione minima dei dati, elaborazione locale, protezione crittografica, separazione dell’identità dalle singole credenziali e accesso ai dati rigorosamente limitato.

Cosa accadrebbe nella pratica?

Immaginiamo tre semplici esempi.

1. Un bambino vuole accedere a contenuti 18+

Il servizio richiede una prova del requisito di età.

QEI conferma:

UNDER 18

Risultato:

ACCESS DENIED

Senza inviare il documento d’identità del bambino al sito web.

2. Un adulto vuole creare il profilo di un quattordicenne

Inserire “14” è possibile.

Ma per ottenere lo status VERIFIED MINOR è necessaria una credenziale QEI verificabile appropriata.

L’adulto non la possiede.

La piattaforma quindi non conferma l’utente come minorenne.

3. Un adulto deve partecipare legittimamente a un ambiente digitale per bambini

Un insegnante, moderatore o altra persona autorizzata non ha bisogno di una falsa identità da minore.

Il sistema potrebbe identificarla come:

VERIFIED ADULT – AUTHORIZED ROLE

In questo modo, il bambino potrebbe potenzialmente distinguere più facilmente tra un altro minore verificato e un adulto con un ruolo definito.

QEI non può eliminare la pedofilia

Su un tema così serio dobbiamo tracciare una linea chiara tra potenziale tecnologico e promesse.

QEI non può eliminare la pedofilia.

Non può impedire ogni caso di abuso sessuale.

Non può individuare ogni autore.

E non può sostituire la polizia, la magistratura, i servizi sociali, le scuole, gli esperti di protezione dei minori, i genitori o la responsabilità delle piattaforme digitali.

Possiamo però porre una domanda diversa:

Possiamo utilizzare la tecnologia per ridurre alcune delle opportunità che oggi permettono o facilitano comportamenti digitali pericolosi?

Se un adulto non può diventare un “bambino verificato” semplicemente inserendo una data di nascita falsa, abbiamo eliminato una possibilità.

Se un bambino non può aggirare la verifica dell’età con un solo clic, ne abbiamo eliminata un’altra.

Se tutto questo può essere fatto senza creare enormi archivi di dati personali dei bambini, proteggiamo contemporaneamente anche la loro privacy.

Questa è la direzione della ricerca.

Il sistema dovrebbe essere resistente anche agli abusi

Nello sviluppo di QEI Child Protection non basta chiedersi:

Come funziona il sistema?

Dobbiamo porci anche domande più difficili:

• Come potrebbe qualcuno tentare di aggirarlo?
• Cosa accade se un dispositivo o una chiave vengono rubati?
• Cosa succede se un adulto utilizza il dispositivo di un bambino?
• Come viene revocata una credenziale?
• Come si impedisce la creazione di più identità false?
• Come si comporta il sistema quando il bambino diventa maggiorenne?
• Chi può modificare le impostazioni di protezione?
• Come impediamo che uno Stato, una piattaforma o un’altra parte utilizzi il sistema per una sorveglianza non autorizzata?
• Come garantiamo il diritto alla correzione in caso di decisione errata?

Sono proprio queste domande a distinguere una semplice idea da un serio concetto di sviluppo.

Abbiamo bisogno di tecnologia, diritto e competenze

QEI Child Protection non può quindi essere soltanto un progetto informatico.

Uno sviluppo serio richiederebbe la collaborazione di esperti in cybersicurezza, crittografia, protezione dei dati personali, diritti dei minori, psicologia, prevenzione degli abusi sessuali, diritto penale, piattaforme digitali e sviluppo di sistemi di identità.

Sarebbe particolarmente importante anche una valutazione indipendente della privacy e della sicurezza.

Un sistema destinato a proteggere i più vulnerabili deve avere standard di sicurezza ancora più elevati, non più bassi.

Dal dibattito politico alla ricerca di soluzioni

Quando l’opinione pubblica discute di pedofilia e abusi sessuali sui minori, è comprensibile che il dibattito diventi emotivo.

Ma la protezione dei bambini non dovrebbe appartenere a una sola parte politica.

Un bambino non ha colore politico.

Non basta nemmeno chiedersi soltanto chi sia responsabile della situazione attuale.

Dobbiamo chiederci anche:

Cosa possiamo fare diversamente affinché il prossimo bambino sia meglio protetto?

Una parte della risposta è la legislazione. Una parte è la prevenzione. Una parte è l’educazione. Una parte è costituita da istituzioni efficaci e dall’applicazione della legge. Anche le piattaforme digitali hanno una parte di responsabilità.

E nel XXI secolo, una parte della risposta deve essere anche un’architettura tecnologica che integri la sicurezza dei bambini fin dalla progettazione.

QEI Child Protection come nuova direzione di sviluppo

All’interno dell’Istituto 1. april vediamo quindi QEI Child Protection come una delle possibili direzioni di sviluppo specializzate del più ampio sistema QEI.

Attualmente stiamo parlando di un concetto di sviluppo, non di un prodotto completato, implementato o certificato.

Prima di qualsiasi possibile utilizzo sarebbero necessari lo sviluppo dell’architettura, la prototipazione, la modellazione delle minacce, i test di sicurezza, l’analisi giuridica, la valutazione d’impatto sulla protezione dei dati e, soprattutto, il coinvolgimento di esperti nella protezione dei minori.

Solo dopo sarebbe responsabile parlare di un ambiente pilota.

Ma ogni grande soluzione inizia con una domanda.

La nostra è semplice:

Se il mondo digitale può verificare un pagamento in pochi secondi, perché non dovrebbe essere in grado di verificare anche il diritto di accesso – senza rivelare inutilmente l’identità di un bambino?

Proteggere, non sorvegliare

Il futuro digitale dei bambini non deve essere una scelta tra due cattive opzioni:

un Internet non verificato, privo di protezioni efficaci

oppure

un Internet di sorveglianza totale e perdita della privacy.

Dobbiamo trovare una terza via.

Una via in cui la tecnologia sappia stabilire un limite senza aver bisogno dell’intera identità di una persona.

Una via in cui un adulto non possa diventare un “bambino” con una sola dichiarazione.

Una via in cui un bambino non possa diventare “adulto” con un solo clic.

E una via in cui la sicurezza non significhi automaticamente raccogliere quantità sempre maggiori di dati personali.

Questa è la direzione che vogliamo esplorare con il concetto QEI Child Protection.

Verifica l’età. Proteggi l’identità. Limita gli accessi pericolosi.

Non seguire il bambino. Proteggi il suo percorso digitale.