Čo je to AI ACT a prečo EÚ reguluje pravidlá používania umelej inteligencie

Prečo sa téma regulácie umelej inteligencie stala takou dôležitou?

Umelá inteligencia je v podstate taká čierna skrinka - nevidíme do nej a nevieme, ako funguje. Vieme, že keď do nej dáme nejaký vstup, dostaneme nejaký výstup. Nevieme však, čo je medzi tým, a to v niektorých ľuďoch či organizáciách vzbuduje nedôveru a strach z toho, kam pôjdu moje údaje a čo sa s nimi stane.

Preto EÚ pripravuje návrh zákona tzv. AI Act

Hrozí nám strata kritického myslenia a schopnosti rozlišovať realitu?

Áno, a práve preto pripravovaná regulácia tlačí na transparentnosť a overiteľnosť. Aby systémy vedeli uvádzať zdroje, prípadne upozorňovali na to, že informácie nemusia byť úplne pravdivé – AI môže halucinovať t.j. vymýšľať si.

AI je dnes pre mnohých prvou voľbou pri hľadaní informácií. Musíme si zvyknúť informácie overovať. Niekedy stačí „jedno rýchle googlenie“ a ušetrí nás to od problémov. Ak si totiž používateľ prestane informácie overovať, stráca ostražitosť aj kritické myslenie.

Čo je hlavným cieľom zákona EÚ tzv. AI Act?

Základny cieľ AI Actu je ochrana súkromia jednotlivca v rámci EÚ. AI Act má brániť zneužívaniu AI – napríklad proti manipulácií, systematickému ovplyvňovaniu názorov, sledovaniu, či sociálnemu „scórovaniu“ ľudí. Každá technológia má dve strany a toto je o minimalizácii rizík.

Bežný užívateľ môže byť ohrozený, najmä ak do AI nástrojov vkladá citlivé alebo súkromné údaje. Dáta sú cenný tovar. Ich kombinovaním si o nás tretie strany skladajú profil a vedia nás cielene ovplyvňovať.

Napr. presnejšie cielenie reklamy, vyššie riziko podvodov, sofistikovanejšie phishingové techniky.

AI Act rozdeľuje systémy umelej inteligencie podľa rizika. Aké to sú?

Neakceptovateľné riziko: napr. sociálne skórovanie obyvateľov, masové biometrické monitorovanie.

Vysoké riziko: rozhodovanie v bankách (úvery, scoring), použitie v kritickej infraštruktúre, policajné a obranné nasadenia – všade tam, kde je veľký dopad na človeka a ten je mimo „rozhodovacej slučky“.

Slabé riziko: napr. chatboty – ak používateľ uplatňuje kritické myslenie a transparentnosť je dodržaná, riziko je nižšie.

Minimálne riziko: vysvetliteľné modely, kde vieme správanie zdokumentovať a testovať (napr. pomocou metód ako LIME).

Príkladom regulácie, ktorá chráni občana je napr. systém prepojených mestských kamier, ktoré by nielen dávali pokuty, ale aj znižovali „sociálne skóre“ – to je presne to, čo AI Act zakazuje.

Dopravné AI radary patria medzi vysokorizikové a musia mať prísne záruky, aby sa nezneužili.

Pri používaní umelej inteligencie platí pravidlo Human in the loop – tj. možnosť interagovať s AI, možnosť ju vypnúť tj. človek má mať kontrolu. Príkladom je autonómne vozidlo – kde máme možnosť vypnúť autopilota a ísť sám.

Čiže ja sa rozhodnem, či chcem jazdiť sám alebo to nechám na AI.

Aké odlišnosti môžeme nájsť vo svete v rámci regulácie AI?

Kľúčové regióny aj v tejto oblasti sú - Čína, Európa a Amerika

V Číne je umelá inteligencia regulovaná štátom tj. čo uzná komisia za vhodné, to sa používa, akože v prospech štátu.

V rámci Ameriky sa AI vo väčšej miere používa na podporu inovácií – je teda viac obchodne zameraná. Regulácia a etické rámce sú prítomné, ale menej dôsledne vymáhané.

V Európe sa sústreďujeme predovšetkým na ochranu súkromia jednotlivca, aby nebolo porušované. Nejde len o pokuty, ale o to, aby sme neboli redukovaní na záznam v databáze, na základe ktorého systém vyhodnotí, že niekto je náchylnejší na spáchanie trestného činu, a začne ho automaticky monitorovať. Ak sa na to pozrieme úplne laicky, najvoľnejší (najbenevolentnejší) prístup v tejto oblasti majú pravdepodobne USA.