Můžeme důvěřovat umělé inteligenci – co je reálné a co fikce?

Důvěryhodná umělá inteligence musí splňovat několik kritérií. Musí být legální, tedy plnit všechny zákonné a legislativní požadavky. Rovněž musí respektovat etické zásady a dodržovat je. Nesmí diskriminovat, což znamená, že systém se nemůže chovat jinak vůči různým rasám, pohlavím či věkovým kategoriím a obecně nemůže upřednostňovat některé skupiny před jinými.

Zabezpečení systému umělé inteligence je také velmi kritická část. Data i systém musí být dostatečně chráněny, aby nemohly být zneužity nebo kompromitovány. Jasně musí být definována i transparentnost systému, abychom věděli, proč a jak se systém rozhoduje. Nakonec musí být i samotná zodpovědnost umělé inteligence jasně určena. Pokud se v nějakém běžném systému nachází část umělé inteligence, například ke kontrole výrobní linky, musí být její odpovědnost jednoznačně definována. Podobný příklad je i diagnostický systém v nemocnici, který vyhodnocuje, zda má pacient nádor a při tomto procesu využívá prvky umělé inteligence, celý systém musí být důvěryhodný, jinak to může skončit katastrofálně.

Během vývoje a učení různých systémů umělé inteligence se používají metriky, které indikují přesnost a efektivitu modelu. Často se však zapomíná na to, kde je nakonec umělá inteligence nasazena a pro koho vlastně funguje. Pokud jsou výsledky sice dobré a uvěřitelné, ale systém není zabezpečený, vysvětlitelný (proč dělá to, co dělá), diskriminuje jednotlivé skupiny nebo se používá v neetickém prostředí, takový systém nemůžeme považovat za důvěryhodný.

V praxi to znamená, že chceme-li vybudovat kvalitní produkt s využitím umělé inteligence, musíme se nejprve zamyslet, zda splňujeme uvedené body. Pokud ne, je třeba přehodnotit samotnou užitečnost a vhodnost AI produktu.

Z pohledu běžného člověka se nejčastěji setkáváme s generativními nástroji umělé inteligence v těchto oblastech:

Generace textu

Princip fungování je na základě vstupu. Vstupem pro takzvané velké jazykové modely je text od uživatele. Nejrozšířenější formy jsou ChatGPT, Claude, Gemini, Mistral nebo DeepSeek. Důvěryhodnost odpovědí těchto modelů je často sporná. Někdy vygenerují správnou odpověď, kterou potřebujeme, ale často si vymýšlejí vlastní odpověď (halucinují). Taková odpověď sice zní přesvědčivě, ale jde jen o nepravdivou fabulaci. Proto byly do těchto služeb přidány i funkce pro vyhledávání na internetu, aby uživatel získal přístup ke zdrojovým informacím, které si může ověřit. A každý z nás by to měl dělat.

Generace obrazu

Samotné generování nebo upravování obrázků se rozšířilo již před několika lety. Na začátku šlo o ruční úpravu pomocí specifických editačních softwarů. Za poslední dva roky však tuto roli ve veřejnosti převzala umělá inteligence s nástroji jako Flux, Foocus a mnohé další. A o jaké zneužití zde může jít? To spočívá v generování fotografií, nebo jen jejich alternativních pozadí. Následné sdílení takto upraveného obsahu na sociálních sítích může způsobit nepříjemné komentáře nebo šíření dezinformací.

Generace hlasu

Konverze textu na audio není sama o sobě novinkou. Novinkou jsou však nástroje, kterým stačí pár vět na to, aby dokázaly realisticky imitovat a replikovat náš hlas, což může vést k podvodům. Běžně dokážou imitovat kohokoli, koho si nahráli. V tomto případě je obrana těžší a obzvláště náchylné jsou skupiny lidí, kteří se zatím s možnostmi AI nesetkali, a proto si neuvědomují, že neobvyklá stylistika imitované osoby představuje riziko, protože barva hlasu jim je povědomá.

Generace videa

Minulý rok společnost OpenAI představila generování videa. Nástroj Sora si můžeme vyzkoušet při předplatném ChatGPT. Tato technologie dokáže vygenerovat video pouze ze zadaného textu – podobně, jako bychom komunikovali s chatbotem, ale místo otázky zadáme detaily požadovaného videa a on nám je vygeneruje. Tento způsob generování obsahu je ještě poměrně snadno detekovatelný, protože některé generované detaily působí uměle.

Celkově platí pravidlo dodatečné kontroly a použití zdravého rozumu – generovaný obsah je všude kolem nás, i když si to často nemusíme uvědomovat. Proto je důležité se nad tím, co vidíme a čteme, vždy zamyslet.

Ukázka evoluce generace videa:

ZDROJ: Pravda