Michal Srnec: Nadšení z AI? Pozor na dokonalý deepfake

Pri pohľade na vývoj kybernetickej bezpečnosti je zrejmé, že sa od svojich počiatkov skokovo zmenila. Zároveň s ňou však pribudli aj nové formy umelej inteligencie. V čom a prečo by si mali ľudia dať pozor na umelú inteligenciu (AI)?

Pred pätnástimi rokmi sa spoločnosti báli vírusov, firemné opatrenia sa sústredili na zabezpečenie sietí a systémov, ktoré boli často izolované od vonkajšieho sveta. Cielené útoky sa vtedy robili spôsobom one-to-one – heker alebo skupinka hekerov si „niečo naprogramovali“ a útok vykonali na konkrétnu obeť. Bežní ľudia a dokonca aj IT špecialisti témam kybernetickej bezpečnosti nevenovali žiadnu pozornosť.

Technológie sa však vyvíjajú, výpočtová sila rastie, internet sa masívne rozšíril do všetkých zariadení okolo nás a mnohé biznisy existujú iba v online podobe. Útoky sú plošné, organizované a do veľkej miery automatizované.

Ako vyzerá zneužitie AI?

Dnes je svet online bezpečnosti a útokov zásadne odlišný, na scéne sa objavila AI, ktorá prináša výhody, ale aj riziká v každej oblasti. Preto by si ľudia mali strážiť svoju „realitu“. Ako teda vyzerá príklad zneužitia AI? Klasické spamové a phishingové správy pozná asi každý. Stačí si predstaviť, že sa z týchto nebezpečných, no stále len obyčajných emailov alebo esemesiek stanú ucelené kampane útočiace na každú úroveň ľudského vnímania, ktorých jediným cieľom je získať úplnú dôveru. Možno trochu desivé, no ešte stále je reč „iba“ o vylepšení existujúcich podvodných mechanizmov.

Čo predstavuje skutočnú hrozbu?

Deepfake alebo FakeNews. Je to metóda vytvárania falošných obsahov pomocou umelej inteligencie. Dokáže produkovať autentické výrazy tváre, pohyby alebo hlasové odtiene reálnych ľudí, čo umožňuje takmer dokonalú manipuláciu s akýmkoľvek multimediálnym obsahom.

Aké sú dôsledky?

Deepfake videá s citlivým obsahom môžu byť zneužité na vydieranie, poškodenie reputácie konkrétnej osoby či ovplyvňovanie verejnej mienky. Existujú však aj Deepfake hlasové klipy, ktoré môžu byť použité na falšovanie autorizácie a podvodné transakcie v online bankovníctve. Pomocou rôznych FakeNews multimédií sa vytvárajú falošné správy, dezinformácie a manipuluje sa s celým informačným priestorom vrátane spravodajských webov a televíznych programov. Navyše aj politickí lídri, kandidáti a verejné osobnosti môžu byť takisto terčom manipulácie a šírenia falošných informácií. Podvrhnuté videá často vytvárajú ilúzie, že určitá osoba vyriekla niečo, čo v skutočnosti nepovedala. Týmto spôsobom býva ovplyvnená verejná mienka, ale aj voličské rozhodnutia či politické kampane.

ZDROJ: FORBES