Kriminal v dobi umetne inteligence
Umetna inteligenca odpira nova vrata organiziranemu kriminalu. Potrebujemo tudi novo generacijo digitalne identitete?
Razvoj umetne inteligence prinaša izjemne priložnosti za znanost, gospodarstvo in vsakdanje življenje. Hkrati pa odpira tudi nova področja zlorab, ki jih organizirane kriminalne združbe vse hitreje izkoriščajo.
Nedavni medijski prispevki opozarjajo, da kriminalne skupine uporabljajo umetno inteligenco za pripravo vse bolj prepričljivih prevar, lažnih dokumentov, elektronskih sporočil, ponarejenih identitet in drugih oblik digitalnega kriminala. Takšne tehnologije jim omogočajo, da njihove prevare postajajo vedno težje prepoznavne tako za posameznike kot tudi za podjetja in javne ustanove.
To ni več vprašanje prihodnosti – to je realnost sedanjosti.
Današnji sistemi zaupanja postajajo vse bolj ranljivi
Večina današnjih digitalnih sistemov še vedno temelji na geslih, uporabniških računih, SMS-kodah, elektronski pošti ali dokumentih, ki jih je mogoče ukrasti, prestreči, ponarediti ali z uporabo umetne inteligence zelo prepričljivo posnemati.
Če lahko umetna inteligenca ustvari skoraj popoln ponaredek glasu, fotografije, dokumenta ali elektronskega sporočila, postane jasno, da bomo morali razmišljati o povsem novih načinih preverjanja identitete.
Vprašanje ni več, ali bo umetna inteligenca spremenila način delovanja kriminala.
Vprašanje je, ali bomo pravočasno razvili tehnologije, ki bodo temu sledile.
Razvojni status QEI
QEI je konceptualno zasnovan sistem digitalne identitete v fazi razvoja in priprave raziskovalnega pilota. Njegove tehnične, varnostne in operativne lastnosti še niso bile potrjene v produkcijskem okolju. Predlagani pilot je namenjen prav preverjanju izvedljivosti in navedenih hipotez.
Kako bi lahko pomagal sistem QEI?
Pobuda QEI (Quantized Encrypted Identity) izhaja iz drugačnega pristopa.
Namesto da bi zaupanje temeljilo predvsem na dokumentih, geslih ali enkratnih potrditvenih kodah, predlagana zasnova predvideva uporabo več neodvisnih varnostnih elementov, ki bi skupaj tvorili zaščiteno digitalno identiteto posameznika.
Temeljna načela predlagane zasnove vključujejo:
- več neodvisnih varnostnih faktorjev,
- lokalno preverjanje identitete na uporabnikovi napravi,
- zaščito biometričnih podatkov brez njihovega centralnega shranjevanja,
- zmanjševanje možnosti za enostaven prevzem digitalne identitete,
- pristop Privacy by Design, pri katerem je varovanje zasebnosti vključeno že v samo zasnovo sistema.
Takšen koncept sam po sebi ne pomeni, da bi bilo mogoče popolnoma odpraviti digitalni kriminal.
Če bi bila predlagana zasnova uspešno tehnično izvedena in potrjena, pa bi lahko pomembno zmanjšala možnosti za uspešne zlorabe identitete, ki predstavljajo eno največjih tveganj sodobnega kibernetskega kriminala.
“Če umetna inteligenca postaja orodje kriminalcev, mora postati tudi najmočnejše orodje za zaščito identitete.”
— Inštitut 1. april
Tehnologija mora biti korak pred kriminalom
Kriminalne združbe se zelo hitro prilagajajo novim tehnologijam.
Zato tudi družba ne more več razmišljati samo o odzivanju na že storjena kazniva dejanja. Vedno več pozornosti bo treba nameniti preventivi in razvoju varnostnih rešitev, ki zmanjšujejo možnosti zlorab že v samem začetku.
Digitalna identiteta postaja eden najpomembnejših temeljev sodobne družbe. Od nje bodo odvisni dostop do javnih storitev, zdravstva, bančništva, izobraževanja, elektronskega poslovanja in številnih drugih področij.
Če želimo ohraniti zaupanje v digitalno družbo, mora biti zaščita identitete ena od najvišjih prioritet.
Namen pobude Inštituta 1. april
Na Inštitutu 1. april želimo z javno razpravo o pobudi QEI spodbuditi strokovno, akademsko in širšo javnost k razmisleku o prihodnosti digitalne identitete.
Naš cilj ni zgolj opozarjati na posamezne primere spletnih prevar, temveč odpreti razpravo o tem, kako bi lahko z novimi tehnološkimi pristopi bolje zaščitili ljudi, njihove osebne podatke, digitalno identiteto in premoženje.
Prepričani smo, da bo prihodnost digitalne varnosti temeljila na rešitvah, ki bodo človeka postavile v središče sistema ter združevale varnost, zasebnost in odgovorno uporabo tehnologije.
