Pozor na chatboty, AI nie je váš terapeut!
- Press
Peter Bakonyi, Data Scientist Senior zo spoločnosti Aliter Technologies
Príležitostne sa stáva, že otázka ktorú kladieme chatbotom je jednoduchšieho - primitívnejšieho charakteru, a keby sme sa tú istú otázku pýtali kolegov alebo kamarátov, pravdepodobne by sme sa stretli s podivným pohľadom. V prípade chatbotov sa to však nestane, dokonca dostaneme pochvalu za skvelú otázku a podanie odpovede sa nesie v pozitívnom sentimente. Z tohoto dôvodu medzi hlavné hrozby patrí nárasť osamelosti ľudí. Či už z vlastného zavinenia alebo pre slabé sociálne schopnosti môžu ľudia prepadnúť osamelosti a následne depresii.
Hrozby chatbotov na spoločnosť
Samotná reprezentácia chatbotov sa nesie smerom ľudskosti a odbornosti. Sú stále ochotné, pochvália takmer každú požiadavku a snažia sa vždy odpovedať, nezávisle od toho, či je daná odpoveď korektná. Nadmerné spoliehanie sa na chatboty bez verifikácie odpovede spôsobuje umelo vytvorenú dôveryhodnosť systémov, ktoré sú užitočné, ale vyžadujú aj primeranú kontrolu. Súčasná spoločnosť často očakáva nahradenie určitých tradičných povolaní a kompletnú automatizáciu. Samotné systémy momentálne dokážu len asistovať, nie nahradiť človeka. Vezmime si napríklad také prekladateľstvo. Pri preklade kníh ich dokáže AI preložiť veľmi rýchlo, ale takmer vždy je garantovaná chybovosť väčšieho rozsahu. Vo vekovej kategórii pod 30 rokov sa znižuje úroveň kritického myslenia z dôvodu dôveryhodného podania „faktov“ od AI.
Ilúzia spriaznenej duše a emocionálne väzby
V prípade komunikácie vo forme diskusie a poradenstva máme pri využívaní týchto nástrojov často pocit, že ide o pomocného asistenta či kamaráta, ktorý nás vypočuje, pochváli, poradí a je tu pre nás vždy, keď ho potrebujeme. V prípade pocitu osamelosti sa môže vytvoriť emocionálna väzba na systém. Pre pohodlie a komfort využívania AI systémov sa pomerne nedávno pridala funkcionalita personalizácie. To znamená, že tón, technická úroveň alebo sémantika komunikácie systémov sa postupne prispôsobila používateľovi tak, aby mu čo najviac vyhovela. „Komfort“ využívania služby stúpol, komunikácia sa namiesto kladenia otázok pre riešenie problémov zmenila skôr na kamarátsku konverzáciu a nastáva tamagochi efekt. Laicky povedané, nastáva emocionálna väzba na stroj. Napojenie na tento jav je aj pokus o únik z nepríjemnej reality do komfortnej zóny alebo bubliny, kde na naše myšlienky a názory dostávame len pozitívny feedback. Psychologicky je dávno potvrdený fakt, že skôr vychádzame s ľuďmi, ktorí sú blízko našej mentality a súhlasia s nami. To platí v profesionálnej aj súkromnej sfére. Negatívom tohto javu je strata záujmu o medziľudské vzťahy a komunikáciu. V prípade, ak naša nátura nie je extrovertného charakteru, prepad a emocionálna väzba na stroje sú rýchlejšie a nebezpečnejšie. Ojedinele osamelosť jednotlivcov a závislosť na AI prekročila do štádia nadviazania oficiálneho vzťahu. Každopádne, pri takýchto prípadoch je možno dobrý nápad konzultovať situáciu s odborníkom, aby sme sa neodrezali úplne od reality.
AI ako terapeut
Terapia je čoraz rozšírenejšia aj vo východnej časti Európy. Populácia má záujem na sebe pracovať a liečiť svoju dušu. Avšak dostupná terapia je finančne náročná. Z toho dôvodu rastie popularita bezplatných terapeutov vo forme chatbotov. Okrem konvenčných chatbotov, ktoré sú rozšírené, existujú platformy a aplikácie. Treba si však uvedomiť, že momentálny stav AI je na takej úrovni, že vie opakovať to, čo sa naučila v minulosti. To znamená, že problémy, ktoré sú rozšírené a ľahko identifikovateľné dokáže AI v kombinácii s komunikáciou s pacientom pomerne spoľahlivo identifikovať a tváriť sa ako terapeut. V prípade, ak dôjde k odchýleniu pri stanovení diagnózy alebo identifikácii zdroja problému, snaží sa liečiť niečo, čo nie je problém alebo zdroj problému.
Osobné údaje
Pri neopatrnej komunikácii s AI môžu tretie strany získať citlivé a osobné údaje od používateľov, ktoré následne predávajú ako produkt. V rámci nášho domnievania sa možno zdá, že informácie, ktoré zdieľame s AI, nie sú extra citlivé alebo osobné. Opak je však pravdou pri čiastočne dlhej konverzácii, kde tieto informácie dobrovoľne zdieľame a tretie strany ich môžu zbierať. Z malých útržkov informácií dokážu poskladať váš osobnostný profil a napríklad kategorizovať nás ohľadom toho, aký máme potenciál kúpiť nejaký tovar, našu politickú orientáciu alebo dôveru voči rôznym zdrojom informácií. Možno sa nám to nezdá, ale tieto informácie sú lukratívny tovar a trh, kde sa s týmito informáciami obchoduje je pomerne rozsiahly.
Chatboty na online zoznamkách
Mladšia generácia čoraz viac využíva online zoznamovacie stránky. Tento trend je už dlhšie zaužívaný nielen v západných krajinách, ale aj u nás na Slovensku. V prípade, ak nastane zhoda medzi potenciálnymi partnermi, pred osobným stretnutím prichádza fáza textovej komunikácie. Otváracia hláška „ahoj“ nie je celkom originálna a druhá polovica môže rovno stratiť záujem. Z toho dôvodu sa používatelia týchto platforiem stále častejšie spoliehajú na AI, aby im vygenerovala originálnu otváraciu hlášku, a často celé konverzácie nie sú vedené medzi ľuďmi, ale AI. V prípade, ak sa konverzácia posunie na úroveň stretnutia, tak sa pomerne rýchlo identifikuje slabá schopnosť komunikácie. Efekt priveľkej dôvery voči AI môže spôsobovať, že osobnosť potenciálneho partnera sa od nej stane závislá. Napríklad, namiesto vlastného názoru na tematiku sa spoliehame na to, čo nám AI k danej téme povie. Z pohľadu dokonalého konverzačného partnera na zoznamke môže byť na druhom konci AI namiesto skutočného človeka s nekalým cieľom.
