CLOUDY podcast | #22 Ako správne komunikovať s chatbotmi?
Ako chatbot funguje?
Je to umelá inteligencia, je to neurónová sieť zložená s transformerov a je trénovaná na veľkom množstve textových údajov, či už nejakých kníh, článkov alebo na nejakom obsahu internetu.
Na základe toho textu, na ktorom bola trénovaná, ona predpovedá podľa našej otázky, čo by sme chceli dostať za odpoveď. Je to založené na matematike, na štatistike.
Aký je rozdiel vyhľadávať informácie cez Google alebo napr. cez ChatGPT?
Závisí aj od modelu ChatGPT – napr. či je zvolené vyhľadávanie alebo nie. Čiže ak má veľkú databázu, z ktorej sa učil, tak dokáže nájsť tú odpoveď sám v sebe, ak má prístup na internet, môže vyhľadávať odpovede aj tam. Klasický Google sa len pozerá na nejaké kľúčové slová a podľa toho výraz nachádza a zobrazuje.
Jednoduchá otázka rovná = jednoduchá odpoveď?
Záleží. V zásade áno, platí, že čím jednoduchšie sa človek opýta, tak tým jednoduchšia odpoveď by mala prísť.
Ako teda správne položiť otázku, aby som dostal odpoveď akú očakávam?
Pokladanie otázok je to najkľúčovejšie. Existuje tu princíp „garbage in, garbage out“. Čiže kvalita výstupu záleží od kvality vstupu.
Existujú zásady, ktoré nám pomáhajú – treba byť čo najviac konkrétny. Konkrétnosť je veľmi dôležitá, pretože chatbot má nejaké pole, z ktorého vyberá tou štatistikou odpoveď a vďaka tomu, že mu zúžime to pole, z ktorého má vybrať, dostaneme to, čo od neho chceme a odpoveď zároveň nebude moc všeobecná.
Čo napríklad slangové výrazy?
Slang je niečo, na čom ten chatbot mohol byť tiež učený, ale zďaleka nie na takom veľkom množstve dát. To znamená, že hrozí, že nás ten model nepochopí a nebude rozumieť tomu, čo potrebujeme. Je preto veľmi dôležité dodržiavať ďalšiu zásadu - používať gramaticky správny jazyk, teda spisovný jazyk, na ktorom bol model pravdepodobne učený.
Ak potrebujem niečo naozaj odborné, je dôležité pýtať sa chatbota jednoducho alebo naopak tu už mám používať odborné výrazy?
Môžeme do otázky pridávať odborné výrazy, len potom ten výstup bude rovnaký ako vstup. Čiže aj odpoveď bude samozrejme odbornejšia. Stále sa to však dá podať jednoducho alebo aspoň štruktúrovane.
Ďalšou zásadou je teda je štruktúrovanosť. Otázky by sme mali štruktúrovať, pýtať sa po jednej veci alebo nedávať veľmi komplikované a dlhé súvetia do otázok.
Jednou možnosťou je, že položím otázku a dopytujem sa detailnejšie ďalej, robím si nejakú nadstavbu, dopĺňam info alebo môžeme otázku rozdeliť do častí a používať odrážky/číslovanie. Nenastane teda chaos a aj odpoveď bude štruktúrovaná.
Ďalšou pomôckou je povedať chatbotovi kým je. Dať mu konkrétnu rolu. Vieme mu povedať, že je vysokoškolský profesor, alebo osobný tréner, alebo že je uznávaný kuchár. A práve pomocou týchto rolí vieme získať odpoveď v danej oblasti.
Ak sa spýtame to isté a dáme mu rôzne role, tak dostaneme rôzne odpovede. Zoberme si príklad kuchára - ak mu povieme, že je michelinský kuchár, tak bude využívať iné nástroje, bude s nami komunikovať na inej prepracovanejšej úrovni. Bude opisovať tie postupy, ako odborník. Ak mu povieme, že je amatérsky kuchár, tak bude s nami komunikovať na takej tej priateľskejšej úrovni, na amatérskom leveli. Amatérsky kuchár nám dá jednoduchší recept, jednoduchší postup prípravy, michelinský naopak zložitejší a pod.
Aj chatboty robia chyby. Je potrebné si zakaždým overovať informácie?
Ideálne je všetko si overovať a nedôverovať bezhlavo všetkému čo mi chatbot odpovie. Vhodné je chatbota aj opraviť pri mylnej odpovedi.
Niekedy vidíme okamžite, že tá odpoveď je nesprávna, môžeme sa znovu dopytovať alebo mu povedať, že odpoveď si predstavujem inak alebo výstup si predstavujeme v inom formáte alebo ho informovať, že tieto informácie sú nepravdivé a uviesť mu zdroj pravdivej informácie a pod.
Sú platené verzie chatbotov lepšie? Dostávam z nich lepšie výstupy ako pri neplatenej verzii?
Pravdepodobne áno. Z osobnej skúsenosti viem povedať, že áno, pretože tie platené služby ponúkajú väčšie modely.
Celý podcast si môžete vypočuť na Spotify, Apple podcastoch alebo pozrieť na YouTube.
