Zaščita otrok v dobi umetne inteligence: Ali potrebujemo novo generacijo digitalne identitete?
Razvoj umetne inteligence in družbenih omrežij odpira nova vprašanja o varnosti otrok.
Pobuda QEI želi spodbuditi strokovno razpravo o tem, kako bi lahko prihodnje tehnologije bolje varovale zasebnost, identiteto in varnost najmlajših.
Nedavna medijska razprava o zasebnosti otrok (članek) na družbenih omrežjih je ponovno opozorila na eno najpomembnejših vprašanj sodobne digitalne družbe – kako zaščititi otroke v svetu, kjer njihova digitalna identiteta nastaja že od rojstva.
Starši pogosto objavljajo fotografije in videoposnetke svojih otrok iz najboljših namenov. Vendar lahko takšne objave ustvarijo trajno digitalno sled, ki ostane na spletu več let in jo je mogoče kopirati, analizirati ali zlorabiti na načine, ki jih ob objavi nihče ne predvideva.
Ob tem se razvija še en pojav, ki postaja vse večji izziv – umetna inteligenca.
AI spreminja pravila igre
Današnja AI-orodja omogočajo izjemno realistično spreminjanje fotografij in videoposnetkov. V nekaj trenutkih je mogoče ustvariti podobo osebe, ki deluje starejša ali mlajša, spremeniti obrazne poteze ali ustvariti prepričljive sintetične posnetke.
To pomeni, da klasični načini preverjanja starosti, ki temeljijo zgolj na fotografiji obraza ali vnosu datuma rojstva, dolgoročno morda ne bodo več dovolj zanesljivi.
Platforme, kot so Facebook, Instagram, Snapchat, TikTok in druge digitalne storitve, bodo morale v prihodnjih letih iskati nove načine za preverjanje starosti uporabnikov, pri tem pa ohraniti visoko raven varovanja zasebnosti.
“Tehnologija prihodnosti ne bo merjena po tem, kaj zmore, temveč po tem, kako dobro zna zaščititi najranljivejše.”
— Inštitut 1. april
Tehnologija mora varovati človeka
Prav zato je Inštitut 1. april predstavil javno pobudo QEI (Quantized Encrypted Identity), katere namen ni ponuditi dokončne rešitve, temveč odpreti strokovno razpravo o prihodnosti digitalne identitete.
Osnovna ideja pobude je preprosta: preverjanje identitete mora postati varnejše, hkrati pa mora zbirati čim manj občutljivih osebnih podatkov.
Predlagani koncept temelji na uporabi kriptografsko zaščitenih identitetnih zapisov namesto shranjevanja surovih biometričnih podatkov v centralnih bazah. Takšen pristop bi lahko zmanjšal tveganje kraje identitete, nepooblaščenega dostopa do podatkov in množičnih zlorab.
Kako bi lahko QEI prispeval?
Če bi bil koncept v prihodnje strokovno razvit, neodvisno preverjen in pravno ustrezno urejen, bi lahko prispeval k:
- zanesljivejšemu preverjanju starosti uporabnikov,
- boljši zaščiti digitalne identitete otrok,
- zmanjšanju tveganja kraje identitete,
- večji odpornosti proti zlorabam z AI-prirejenimi fotografijami ali videoposnetki,
- varnejši uporabi spletnih storitev,
- večji skladnosti z evropskimi standardi varstva osebnih podatkov.
Pomembno je poudariti, da gre za koncept, ki bi zahteval nadaljnje raziskave, tehnično preverjanje, pravno presojo in neodvisno strokovno oceno, preden bi ga bilo mogoče uporabiti v praksi.
Zaščita otrok je skupna odgovornost
Digitalni svet se spreminja hitreje kot kadar koli prej. Umetna inteligenca prinaša številne koristi, vendar hkrati ustvarja tudi nove možnosti za zlorabe identitete in obhod varnostnih mehanizmov.
Zato bo zaščita otrok v prihodnosti zahtevala sodelovanje razvijalcev tehnologij, zakonodajalcev, strokovnjakov za kibernetsko varnost, pedagogov, psihologov, organizacij za varstvo človekovih pravic in celotne družbe.
Povabilo k strokovni razpravi
Pobuda QEI je povabilo k odprti razpravi o prihodnosti varnega preverjanja digitalne identitete. Njen namen ni nadzor posameznikov, temveč iskanje rešitev, ki bi ob spoštovanju človekovih pravic in zasebnosti bolje zaščitile najranljivejše – otroke.
Inštitut 1. april zato vabi domače in mednarodne strokovnjake s področij umetne inteligence, informacijske varnosti, prava, varstva osebnih podatkov, otroške psihologije in digitalnih tehnologij k sodelovanju pri razvoju prihodnjih rešitev.
Digitalna prihodnost ne sme temeljiti na vse večjem zbiranju osebnih podatkov, temveč na zaupanju, preglednosti, varnosti in spoštovanju človekovega dostojanstva.
Zaščita otrok ni izziv prihodnosti. Je odgovornost današnjega časa.
