Je umelá inteligencia hrozba pre naše súkromie?

Press

Aplikácie využívajúce umelú inteligenciu sa stali súčasťou každodenného života ľudí. Nadšenie z ich využívania ale zastrelo otázku súkromia. Aplikácie zbierajú množstvo dát, často viac, než si uvedomujeme. Mali by sme sa preto chrániť a byť obozretní, vysvetľuje Michal Srnec, odborník na kybernetickú bezpečnosť zo spoločnosti Aliter Technologies.

Tretina Slovákov používa umelú inteligenciu (AI) a ich počet každým dňom rastie, vyplýva to z prieskumu verejnej mienky, ktorý zrealizoval NMS Market Research Slovakia na vzorke tisíc ľudí. Aplikácie využívajúce AI pomáhajú, radia, uľahčujú prácu, no zároveň zbierajú množstvo dát. Podľa odborníka na kybernetickú bezpečnosť, každé zadanie do AI aplikácie, od jednoduchej otázky až po nahratie fotografie, môže znamenať odovzdanie citlivých údajov. Tie sa následne môžu použiť na ďalší vývoj modelu. „Používatelia si často neuvedomujú, že ich vstupy môžu byť využité na trénovanie samotného modelu. V prenesenom význame tak môžeme povedať, že časť našich dát zostáva v modeli ukrytá,“ upozorňuje Michal Srnec, odborník na kybernetickú bezpečnosť zo spoločnosti Aliter Technologies.

Uvedená skutočnosť otvára nové možnosti zneužitia. Útočníci môžu vytvárať také zadania, ktoré majú z AI „vytiahnuť“ citlivé informácie. Nejde o hypotetickú hrozbu – ide o reálny typ útoku, s ktorým sa už stretli viaceré technologické firmy. Podobne nebezpečné môže byť aj používanie AI aplikácií, ktorých pravidlá sú nejasné. Ak napríklad aplikácia na úpravu fotiek vyžaduje prístup k mikrofónu či polohe, je na mieste zbystriť pozornosť.

Problematické môžu byť aj tzv. metadáta – teda pomocné dáta, ktoré neobsahujú samotný obsah komunikácie, ale informácie o nej. Napríklad pri odoslanej správe sú metadátami údaje ako čas odoslania, veľkosť správy, počet znakov alebo prijímateľ. Práve metadáta sú málo známou, no silnou zbraňou. AI nemusí počúvať priamo nás, povedal by som, že odpočúvanie je nepravdepodobné. Z veľkého množstva zozbieraných dát a metadát si ale AI vie vytvoriť obraz aj o nás. Tým vznikajú presne cielené reklamy, ktoré vnímame ako zázračné uhádnutie našich myšlienok.

Riziká sa týkajú aj firiem. Zdieľanie interných dokumentov alebo know-how s voľne dostupnými AI nástrojmi môže ohroziť obchodné tajomstvá. Kým niektoré komerčné modely ponúkajú firemné prostredia so zvýšenou ochranou dát, pri neznámych nástrojoch nemusí byť jasné, ako s údajmi narábajú. Ochrana je však možná. Základom je obozretnosť pri výbere aplikácií a zváženie, aké dáta s nimi zdieľame. „Ak vieme, aké dáta AI zberá, ako ich používa a aké má prístupové práva, dokážeme riziká výrazne znížiť,“ dodáva Michal Srnec zo spoločnosti Aliter Technologies.

Raketový záujem o umelú inteligenciu si uvedomuje aj Európska únia, ktorá pripravila takzvaný AI akt. Ten má jasne upraviť, ako môžu byť osobné údaje v AI systémoch využívané. No hoci legislatíva napreduje, zodpovednosť za naše dáta ostáva aj na nás. Umelá inteligencia je silný nástroj – a ako každý nástroj, aj ten treba používať s rozumom.