Trend: Bezpečnostní procesy se digitalizují, ale ovládat je musí lidé

Moderní informační technologie zažívají obrovský rozmach, přičemž umělá inteligence (AI) se stává jedním z klíčových prvků jejich vývoje. Už nejde jen o automatizaci rutinních činností. Umělá inteligence proniká hluboko do infrastruktury organizací, analyzuje chování uživatelů, identifikuje hrozby v reálném čase a reaguje na bezpečnostní incidenty ještě před tím, než se rozvinou do kritických rozměrů.

AI v kybernetické bezpečnosti

V oblasti kyberbezpečnosti prvky AI nejsou až takovou novinkou jako v jiných odvětvích. Různé statistické nebo regresní modely jsou součástí obranných strategií již více než deset let, přičemž jejich uplatnění se stále rozšiřuje. AI se využívá zejména tam, kde je třeba zpracovat rozsáhlé množství údajů. Tyto systémy pomáhají nejen při vyhledávání konkrétních anomálií nebo podezřelých případů, ale také při filtrování většiny méně důležitých událostí. Tím odlehčují bezpečnostní analytiky, kteří se mohou zaměřit na skutečně kritické případy.

Potvrzuje to odborník společnosti Aliter Technologies Michal Srnec „Umělá inteligence má přínos tam, kde je nutné zpracovat spoustu dat a dělat z nich analýzy, hledat korelace, vzory či dokonce anomálie.Typicky se to děje při analýzách chování uživatelů, sítí či korelací bezpečnostních hlášení. Třeba si však uvědomit, že AI nemusí poukázat na vše podezřelé. Její přidanou hodnotou je už i to, že odfiltruje mnoho případů, kterými se analytici s vysokou pravděpodobností nemusí zabývat.“

Prevence a detekce

Prvky AI jsou přítomny téměř ve všech typech řešení, ať už jde o prevenci, detekci nebo reakci na bezpečnostní incidenty. Využití „state of the art“ nástrojů se stává nezbytností, protože stejné nebo podobné technologie používají samotní útočníci.

Zavádění těchto řešení vyžaduje důkladný přístup. Nestačí jen integrovat dostupné nástroje. Kritickým aspektem je důvěra v použité modely, jejich transparentnost a bezpečnost. Firmy, které implementují AI do bezpečnostní infrastruktury, musí mít podrobný přehled o tom, kde a jak model funguje, na jakých datech jej trénovaly a jak je zabezpečen proti zneužití.

"V různých podobách se dá říci, že prvky AI obsahují téměř všechna naše řešení, zda se bavíme o preventivních, nebo reaktivních bezpečnostních opatřeních. Co se týká zavádění, obezřetně používáme nástroje, které jsou dostupné, respektive je nabízejí renomovaní výrobci," vysvětluje M. Srnec.

Kritická infrastruktura

Oddělené a izolované AI systémy hrají rozhodující roli v bezpečnostních strategiích. V kontextu ochrany kritické infrastruktury zabezpečují kontrolu nad datovými toky a zvyšují celkovou odolnost systémů. Jedním z hlavních důvodů, proč se izolované systémy preferují, je jejich schopnost přizpůsobit se.

Organizace, které mají plnou kontrolu nad systémem, mohou flexibilně reagovat na nové hrozby a minimalizovat riziko průniku přes standardní externí připojení. To má význam při zpracování dat citlivé povahy, například u systémů zabezpečení obrany nebo ve vládním sektoru. "Izolované a oddělené systémy AI umožňují vyšší úroveň bezpečnosti z pohledu toku dat. Oddělené AI systémy, nad kterými máme plnou kontrolu a možnost přizpůsobit je našim aktuálním požadavkům, jsou podle nás klíčové," souhlasí M. Srnec.

AI není všelék

Přestože se může zdát, že automatizace díky AI dokáže nahradit člověka, v oblasti bezpečnosti to zatím neplatí. AI může efektivně zpracovat obrovské množství informací, ale konečná rozhodnutí, zejména ty s potenciálem ovlivnit kritické oblasti či dokonce život člověka, musí zůstat v lidských rukou.

Vývoj směřuje k takzvaným decision support systémům, které podporují lidi při volbě správných rozhodnutí. Dokáží navrhnout nejefektivnější postup, ale nemají autonomii jednat. Takové uspořádání spojuje sílu strojového zpracování s etickým a právním rámcem lidského rozhodování. "Částečná automatizace je nezbytným krokem do budoucnosti, hlavní rozhodování však musí zůstat na lidech," dodává M. Srnec.

Realitou se stává i spolupráce AI s vojenskými systémy. Drony s autonomním rozhodováním, adaptací na prostředí či se samostatnými misemi jsou již součástí nasazení na bojištích. Jejich vývoj se opírá io zkušenosti z nedávných či aktuálních konfliktů, které přinášejí cenné poznatky o jejich efektivitě a limitech.

Etika a regulační rámce

Spolu s vývojem autonomních systémů narůstá tlak na vytvoření etických a právních rámců. Nejde jen o prevenci zneužití, ale i schopnost společnosti přijmout to, že rozhodování o fyzickém zásahu proti lidem může nakonec udělat stroj. Regulace jako AI Act jsou prvním krokem, jejich dodržování je však sporné – zejména v kontextu ozbrojeného konfliktu.

Technologická složitost autonomních zbraní není tak velká, jak by se mohlo zdát. Skutečný problém spočívá v tom, jak se společnost dokáže morálně vyrovnat s myšlenkou, že stroje budou iniciovat smrtelné zásahy bez lidské kontroly. „Každý systém, ve kterém je aplikována AI, má splňovat všechny požadavky AI Actu a jiných regulací, aby se zabránilo jejich zneužití,“ zdůrazňuje expert.

Konflikt na Ukrajině ukazuje, že AI se bude využívat stále častěji. Její vlastnosti jako rychlost rozhodování či reakce totiž mnohonásobně převyšují lidské reakce.

"Kombinace AI s vyspělými či jednoduchými zbraňovými systémy vytváří těžko překonatelné rozhraní. Taková technická kombinace není složitá. Otázkou je spíše to, zda se společnost morálně dokáže vyrovnat s tím, že AI spustí proces fyzického omezování včetně likvidace lidí stroji ať už pomocí rozhodnutí člověka, nebo plně automatických zAliter Technologies Imrich Petruf. On sám zavedení regulačních rámců vnímá jako potřebné, ale otázkou je jejich praktické plnění v reálném boji. „Netřeba si dělat iluze o tom, že všechny státy by takové regulace i dodržovaly,“ dodává I. Petruf.

Certifikace jako záruka důvěry

Důvěryhodnost: Důvěryhodnost technologií a jejich výrobců je v obranném a bezpečnostním sektoru gro. Ochrana před nekvalitou: Globalizace přináší riziko neověřené kvality. Certifikace slouží jako nástroj, který pomáhá předcházet technickým selháním a nehodám. Garance odolnosti: Americké vojenské normy MIL–STD, uznávané iv rámci NATO, definují minimální požadavky na odolnost materiálů a technologií. Testování výrobků: Třetí strany testují produkty na elektromagnetickou koexistenci, vibrace, odolnost proti prachu, vodě či slané mlze. Spolehlivost: Certifikovaná zařízení lze použít v podmínkách ohrožujících život, jako jsou bojové zóny nebo záchranné operace. Normy pro celý životní cyklus: Certifikace se netýká jen produktů, ale i výrobních a kontrolních procesů během celého životního cyklu technologie. ISO a AQAP jako záruka procesů: Výroba podléhá normám ISO a NATO standardu kvality AQAP, které zajišťují systematickou kontrolu kvality a shody. Audity a kontroly: Certifikáty podléhají pravidelným, opakovaným přísným auditům, které ověřují dodržování požadavků.

ZDROJ: TREND