Trend: Bezpečnostné procesy sa digitalizujú, no ovládať ich musia ľudia
- Press

Moderné informačné technológie zažívajú obrovský rozmach, pričom umelá inteligencia (AI) sa stáva jedným z kľúčových prvkov ich vývoja. Už nejde len o automatizáciu rutinných činností. Umelá inteligencia preniká hlboko do infraštruktúry organizácií, analyzuje správanie používateľov, identifikuje hrozby v reálnom čase a reaguje na bezpečnostné incidenty ešte pred tým, ako sa rozvinú do kritických rozmerov.
AI v kybernetickej bezpečnosti
V oblasti kyberbezpečnosti prvky AI nie sú až takou novinkou ako v iných odvetviach. Rôzne štatistické alebo regresné modely sú súčasťou obranných stratégií už viac ako desať rokov, pričom ich uplatnenie sa stále rozširuje. AI sa využíva najmä tam, kde treba spracovať rozsiahle množstvo údajov. Tieto systémy pomáhajú nielen pri vyhľadávaní konkrétnych anomálií alebo podozrivých prípadov, ale aj pri filtrovaní väčšiny menej dôležitých udalostí. Tým odľahčujú bezpečnostných analytikov, ktorí sa môžu zamerať na skutočne kritické prípady.
Potvrdzuje to odborník spoločnosti Aliter Technologies Michal Srnec „Umelá inteligencia má prínos tam, kde je nutné spracovať veľa dát a robiť z nich analýzy, hľadať korelácie, vzory či dokonca anomálie. Typicky sa to deje pri analýzach správania používateľov, sietí či korelácií bezpečnostných hlásení. Treba si však uvedomiť, že AI nemusí poukázať na všetko podozrivé. Jej pridanou hodnotou je už i to, že odfiltruje veľa prípadov, ktorými sa analytici s vysokou pravdepodobnosťou nemusia zaoberať.“
Prevencia a detekcia
Prvky AI sú prítomné takmer vo všetkých typoch riešení, či už ide o prevenciu, detekciu, alebo reakciu na bezpečnostné incidenty. Využitie „state of the art“ nástrojov sa stáva nevyhnutnosťou, pretože rovnaké alebo podobné technológie používajú samotní útočníci.
Zavádzanie týchto riešení si vyžaduje dôkladný prístup. Nestačí len integrovať dostupné nástroje. Kritickým aspektom je dôvera v použité modely, ich transparentnosť a bezpečnosť. Firmy, ktoré implementujú AI do bezpečnostnej infraštruktúry, musia mať podrobný prehľad o tom, kde a ako model funguje, na akých dátach ho trénovali a ako je zabezpečený proti zneužitiu.
„V rôznych podobách sa dá povedať, že prvky AI obsahujú takmer všetky naše riešenia, či sa rozprávame o preventívnych, alebo reaktívnych bezpečnostných opatreniach. Čo sa týka zavádzania, obozretne používame nástroje, ktoré sú dostupné, respektíve ich ponúkajú renomovaní výrobcovia,“ vysvetľuje M. Srnec.
Kritická infraštruktúra
Oddelené a izolované AI systémy zohrávajú rozhodujúcu úlohu v bezpečnostných stratégiách. V kontexte ochrany kritickej infraštruktúry zabezpečujú kontrolu nad dátovými tokmi a zvyšujú celkovú odolnosť systémov. Jedným z hlavných dôvodov, prečo sa izolované systémy preferujú, je ich schopnosť prispôsobiť sa.
Organizácie, ktoré majú plnú kontrolu nad systémom, môžu flexibilne reagovať na nové hrozby a minimalizovať riziko prieniku cez štandardné externé pripojenia. To má význam pri spracovaní dát citlivej povahy, napríklad pri systémoch zabezpečenia obrany alebo vo vládnom sektore. „Izolované a oddelené systémy AI umožňujú vyššiu úroveň bezpečnosti z pohľadu toku dát. Oddelené AI systémy, nad ktorými máme plnú kontrolu a možnosť prispôsobiť ich našim aktuálnym požiadavkám, sú podľa nás kľúčové,“ súhlasí M. Srnec.
AI nie je všeliek
Hoci sa môže zdať, že automatizácia vďaka AI dokáže nahradiť človeka, v oblasti bezpečnosti to zatiaľ neplatí. AI môže efektívne spracovať obrovské množstvo informácií, no konečné rozhodnutia, najmä tie s potenciálom ovplyvniť kritické oblasti či dokonca život človeka, musia zostať v ľudských rukách.
Vývoj smeruje k takzvaným decision support systémom, ktoré podporujú ľudí pri voľbe správnych rozhodnutí. Dokážu navrhnúť najefektívnejší postup, ale nemajú autonómiu konať. Takéto usporiadanie spája silu strojového spracovania s etickým a právnym rámcom ľudského rozhodovania. „Čiastočná automatizácia je nevyhnutným krokom do budúcnosti, hlavné rozhodovanie však musí zostať na ľuďoch,“ dodáva M. Srnec.
Realitou sa stáva aj spolupráca AI s vojenskými systémami. Drony s autonómnym rozhodovaním, adaptáciou na prostredie či so samostatnými misiami sú už súčasťou nasadenia na bojiskách. Ich vývoj sa opiera aj o skúsenosti z nedávnych či aktuálnych konfliktov, ktoré prinášajú cenné poznatky o ich efektivite a limitoch.
Etika a regulačné rámce
Spolu s vývojom autonómnych systémov narastá tlak na vytvorenie etických a právnych rámcov. Nejde len o prevenciu zneužitia, ale aj schopnosť spoločnosti prijať to, že rozhodovanie o fyzickom zásahu proti ľuďom môže nakoniec urobiť stroj. Regulácie ako AI Act sú prvým krokom, ich dodržiavanie je však otázne – najmä v kontexte ozbrojeného konfliktu.
Technologická zložitosť autonómnych zbraní nie je taká veľká, ako by sa mohlo zdať. Skutočný problém spočíva v tom, ako sa spoločnosť dokáže morálne vyrovnať s myšlienkou, že stroje budú iniciovať smrteľné zásahy bez ľudskej kontroly. „Každý systém, v ktorom je aplikovaná AI, má spĺňať všetky požiadavky AI Actu a iných regulácií, aby sa zabránilo ich zneužitiu,“ zdôrazňuje expert.
Konflikt na Ukrajine ukazuje, že AI sa bude využívať čoraz častejšie. Jej vlastnosti ako rýchlosť rozhodovania či reakcie totiž mnohonásobne prevyšujú ľudské reakcie.
„Kombinácia AI s vyspelými či jednoduchými zbraňovými systémami vytvára ťažko prekonateľné rozhranie. Takáto technická kombinácia nie je zložitá. Otázne je skôr to, či sa spoločnosť morálne dokáže vyrovnať s tým, že AI spustí proces fyzického obmedzovania vrátane likvidácie ľudí strojmi či už pomocou rozhodnutia človeka, alebo plne automatických zbraňových systémov,“ upozorňuje bezpečnostný konzultant z Aliter Technologies Imrich Petruf. On sám zavedenie regulačných rámcov vníma ako potrebné, no otázne je ich praktické plnenie v reálnom boji. „Netreba si robiť ilúzie o tom, že všetky štáty by takéto regulácie aj dodržiavali,“ dodáva I. Petruf.
Certifikácie ako záruka dôvery
Dôveryhodnosť: Dôveryhodnosť technológií a ich výrobcov je v obrannom a bezpečnostnom sektore gro. Ochrana pred nekvalitou: Globalizácia prináša riziko neoverenej kvality. Certifikácie slúžia ako nástroj, ktorý pomáha predchádzať technickým zlyhaniam a nehodám. Garancia odolnosti: Americké vojenské normy MIL–STD, uznávané aj v rámci NATO, definujú minimálne požiadavky na odolnosť materiálov a technológií. Testovanie výrobkov: Tretie strany testujú produkty na elektromagnetickú koexistenciu, vibrácie, odolnosť proti prachu, vode či slanej hmle. Spoľahlivosť: Certifikované zariadenia možno použiť v podmienkach ohrozujúcich život, ako sú bojové zóny alebo záchranné operácie. Normy pre celý životný cyklus: Certifikácia sa netýka len produktov, ale aj výrobných a kontrolných procesov počas celého životného cyklu technológie. ISO a AQAP ako záruka procesov: Výroba podlieha normám ISO a NATO štandardu kvality AQAP, ktoré zabezpečujú systematickú kontrolu kvality a zhody. Audity a kontroly: Certifikáty podliehajú pravidelným, opakovaným prísnym auditom, ktoré overujú dodržiavanie požiadaviek.
ZDROJ: TREND