Pozor na chatboty, AI není váš terapeut!
- Press
Peter Bakonyi, Data Scientist Senior ze společnosti Aliter Technologies
Občas se stane, že položená otázka je jednodušší, primitivní povahy a pokud bychom ji položili kolegům nebo přátelům, pravděpodobně bychom se setkali s podivným pohledem. U chatbotů se to ale nestane; často dokonce dostaneme pochvalu za „skvělou otázku“ a odpověď je podána pozitivně. Z toho důvodu jednou z hlavních hrozeb je nárůst osamělosti lidí. Ať už z vlastního zavinění, nebo kvůli slabým sociálním schopnostem, mohou lidé propadnout osamělosti a následně depresi.
Hrozby chatbotů pro společnost
Reprezentace chatbotů směřuje k lidskosti a odbornosti. Jsou stále ochotné, chválí téměř každou žádost a snaží se vždy odpovědět, i když není odpověď korektní. Nadměrné spoléhání se na chatboty bez ověření odpovědi vytváří umělou důvěryhodnost systémů, které jsou užitečné, ale vyžadují kontrolu. Současná společnost často očekává nahrazení některých tradičních profesí a úplnou automatizaci. Systémy však zatím dokážou jen asistovat, nikoli nahradit člověka. Například překladatelství: AI dokáže překládat knihy velmi rychle, ale téměř vždy s chybovostí většího rozsahu. U lidí do 30 let se snižuje úroveň kritického myšlení kvůli důvěryhodnému podání „faktů“ AI.
Iluze spřízněné duše a emoční vazby
Při komunikaci v podobě diskuse nebo poradenství často vnímáme AI jako asistenta či kamaráda, který nás vyslechne, pochválí, poradí a je tu pro nás, kdykoli ho potřebujeme. V případě osamělosti se může vytvořit emoční vazba na systém. Pro pohodlí a komfort využívání AI byla nedávno přidána funkcionalita personalizace: tón, technická úroveň a styl komunikace se přizpůsobuje uživateli. „Komfort“ používání služby stoupá, komunikace se mění spíše na kamarádskou konverzaci, a nastává tzv. tamagoči efekt - emoční vazba na stroj.
Psychologicky je potvrzeno, že lidé mají raději ty, kteří sdílejí jejich názory, a to platí i profesně i soukromě. Negativem je ztráta zájmu o mezilidské vztahy a komunikaci. U introvertnějších jedinců může vznik emoční vazby na stroje probíhat rychleji a být nebezpečnější. Výjimečně osamělost a závislost na AI vedla až k „oficiálním vztahům“. V takových případech je vhodné konzultovat situaci s odborníkem, aby se člověk neodřízl úplně od reality.
AI jako terapeut
Terapie je stále populárnější i ve východní Evropě. Lidé mají zájem pracovat na sobě a léčit svou duši, ale dostupná terapie je finančně náročná. To zvyšuje popularitu bezplatných terapeutů v podobě chatbotů. AI dokáže opakovat to, co se naučila, a poměrně spolehlivě identifikovat běžné problémy při komunikaci s pacientem. Problém nastává, když dojde k odchylce při stanovení diagnózy nebo identifikaci zdroje problému – AI se pak snaží léčit něco, co problém není.
Osobní údaje
Při neopatrné komunikaci s AI mohou třetí strany získat citlivé a osobní údaje, které následně prodávají jako produkt. I když se zdá, že sdílené informace nejsou citlivé, při delších konverzacích dobrovolně poskytujeme data, z nichž lze sestavit osobnostní profil - například nákupní preference, politickou orientaci nebo důvěru k různým zdrojům informací. Tyto informace jsou lukrativním produktem a obchod s nimi je rozsáhlý.
Chatboty na online seznamkách
Mladší generace stále více používá online seznamky. Po shodě mezi potenciálními partnery nastává fáze textové komunikace. Standardní „ahoj“ často nestačí, a proto uživatelé spoléhají na AI, která generuje originální zprávy. Často tak komunikují spíše s AI než s reálným člověkem. Pokud se komunikace přesune k osobnímu setkání, rychle se ukáže slabá schopnost komunikace. Přílišná důvěra v AI může vést k tomu, že naše názory na partnera jsou ovlivněny tím, co AI „řekne“, a skutečný člověk se stává zcela závislým na virtuálním partnerovi.
