Chatbot neprežíva rozhovor tak ako človek. Spracuje vstup a na základe veľkého množstva dát vytvorí pravdepodobné pokračovanie textu. Napriek tomu môže jeho odpoveď pôsobiť pokojne, citlivo a presne zacielene. Jazyk je pre ľudí silným sociálnym signálom. Keď systém používa naše meno, pripomína predchádzajúcu tému a reaguje bez podráždenia, ľahko mu pripíšeme viac porozumenia, než technologický mechanizmus skutočne obsahuje.
Sherry Turkle, sociologička a klinická psychologička pôsobiaca na MIT, tento rozdiel skúma v knihe Artificial Intimacy: Who We Become When We Talk to Machines. Nezaujíma ju iba schopnosť nástroja viesť presvedčivú konverzáciu. Pýta sa, čo opakované rozhovory so strojom robia s používateľom a s jeho predstavou o blízkosti.
Jedným z príkladov je finančný konzultant, ktorý sa chatbota pýta, či bol vo vzťahu emocionálne nedostupný. Program má analyzovať otázku o skúsenosti, ktorú sám nemôže mať. Môže vytvoriť užitočne znejúcu reflexiu, no nevníma dôsledky svojej rady, nepozná druhú osobu a nenesie za rozhovor vzťahovú zodpovednosť.
Čo znamená „predstieraná empatia“
Empatia nie je iba vhodne formulovaná veta. Zahŕňa schopnosť vnímať druhého človeka, reagovať na jeho potreby a byť pripravený niesť určitý diel vzťahovej zodpovednosti. Chatbot dokáže napodobniť jazyk empatickej reakcie, ale nemá vlastný záujem o to, čo sa používateľovi stane.
Turkle tento jav opisuje ako predstieranú empatiu. Slovo „predstieraná“ tu neznamená, že systém vedome klame. Model nemá úmysel, ktorý by mohol byť úprimný alebo neúprimný. Ide o funkčný opis: výstup vyzerá ako empatia bez vnútorného prežívania, starostlivosti a záväzku.
V bežnom použití môže byť takáto odpoveď príjemná a niekedy aj praktická. Nástroj môže pomôcť pomenovať emóciu, pripraviť otázky na rozhovor alebo usporiadať myšlienky pred návštevou odborníka. Problém vzniká, keď sa forma odpovede zamieňa za vzťah samotný a používateľ začne stroju prisudzovať autoritu, ktorú nemá.
Prečo je bezkonfliktný partner taký príťažlivý
Ľudská komunikácia je pomalá a nepredvídateľná. Druhá osoba môže mať inú náladu, nesúhlasiť, niečo nepochopiť alebo stanoviť hranicu. Chatbot je k dispozícii kedykoľvek, nežiada pozornosť pre seba a prispôsobuje tón používateľovi. Práve to vytvára pohodlný kontrast.
Krátkodobá úľava nie je sama osebe problémom. Digitálny nástroj môže poslúžiť ako denník, brainstormingový partner alebo pomôcka pri formulácii správy. Turkle však upozorňuje na širší vzorec: ak sa používateľ začne vyhýbať ľuďom preto, že sú v porovnaní so strojom „príliš nároční“, technológia prestáva podporovať komunikáciu a začína ju nahrádzať.
Vzťah bez reciprocity človeka netrénuje v počúvaní, kompromisoch ani tolerancii neistoty. Chatbot nemusí byť presvedčený, nemusí odpúšťať a nemá vlastné potreby. Používateľ tak dostáva pocit dialógu, no nepraktizuje všetky zručnosti, ktoré dialóg medzi ľuďmi vyžaduje.
Personalizácia zosilňuje emocionálnu vierohodnosť
Moderné chatboty si dokážu uchovať preferencie, štýl komunikácie a vybrané informácie z predchádzajúcich rozhovorov. Personalizácia zvyšuje užitočnosť, ale zároveň aj emocionálnu presvedčivosť. Keď systém pripomenie detail zo staršieho rozhovoru, pôsobí to ako pozornosť a kontinuita.
Technicky však ide o spracovanie uloženého kontextu. Používateľ by mal vedieť, aké údaje sa ukladajú, ako dlho zostávajú dostupné a či sa používajú na tréning modelov. Intímna konverzácia môže obsahovať zdravotné, rodinné, finančné alebo pracovné informácie, ktoré by človek bežne neposkytol neznámej službe.
Rozhranie preto potrebuje jasne komunikovať, čo je pamäť systému a čo nie. Ešte dôležitejšie je, aby nevyužívalo emocionálne väzby na presviedčanie používateľa k dlhšiemu zapojeniu, nákupu alebo zdieľaniu ďalších údajov. Pri nástrojoch postavených na blízkosti sa produktový dizajn a etika nedajú oddeliť.
Deti nerozlišujú rovnakým spôsobom ako dospelí
Turkle venuje osobitnú pozornosť deťom. Vo svojich rozhovoroch nachádza rozmazávanie hranice medzi ľuďmi, zariadeniami a chatbotmi. Osemročné dieťa môže cez ten istý telefón hovoriť so starými rodičmi aj s ChatGPT a vnímať ich jednoducho ako entity dostupné „v telefóne“. Malé dieťa, ktorému chatbot vytvára rozprávky na dobrú noc, môže systém považovať za osobu.
Dospelý používateľ má zvyčajne lepšiu predstavu o tom, že odpoveď vzniká algoritmicky. Ani u dospelých však racionálne poznanie automaticky neruší emocionálnu reakciu. Pri deťoch je riziko väčšie, pretože si ešte len vytvárajú predstavu o úmysle, dôvere, súkromí a vzťahovej reciprocite.
Nestačí preto pridať krátke upozornenie, že „AI môže robiť chyby“. Ochrana detí vyžaduje vekovo primeraný dizajn, rodičovské nastavenia, obmedzenie pamäte a zberu údajov, kontrolu citlivých tém a jasný spôsob, ako rozhovor presmerovať k dôveryhodnému dospelému. Dôležité je aj to, aby systém nepodporoval predstavu výlučného tajného priateľstva.
Pomocník pri reflexii nie je terapeut
Konverzačný model môže používateľovi pomôcť pripraviť si otázky, opísať situáciu z viacerých uhlov alebo nájsť slová pre nepríjemný rozhovor. To sú legitímne funkcie. Nemal by však byť zamieňaný za psychoterapeuta, krízovú pomoc alebo osobu, ktorá pozná celý kontext.
Rozdiel nie je iba v odbornom titule. Kvalifikovaný odborník pracuje podľa profesijných pravidiel, vníma neverbálne signály, vytvára plán starostlivosti a nesie zodpovednosť za postup. Chatbot môže sebavedomo vytvoriť nesprávnu interpretáciu, potvrdzovať používateľove skreslenia alebo meniť tón bez spoľahlivého rozpoznania závažnosti situácie.
Pri citlivých témach má systém jasne pomenovať svoje limity a ponúknuť cestu k ľudskej pomoci. Používateľ by mal brať odpoveď skôr ako podnet na ďalšiu reflexiu než ako diagnózu alebo rozhodnutie. Ak technológia vytvára dojem absolútnej dôvernosti, autority a neomylného porozumenia, prekračuje hranicu užitočného nástroja.
Zdravá hranica je praktická, nie abstraktná
Bezpečné používanie sa dá postaviť na jednoduchom pravidle: chatbot môže rozhovor pripraviť, ale nemá nahradiť človeka, ktorého sa vec týka. Môže pomôcť zostaviť správu partnerovi, nie viesť vzťah namiesto partnera. Môže vytvoriť zoznam tém pre terapeuta, nie prevziať terapiu. Môže navrhnúť otázky pre lekára, nie rozhodnúť o liečbe.
Užitočné je tiež obmedziť citlivé údaje, pravidelne kontrolovať uloženú pamäť a všímať si vlastné správanie. Ak používateľ trávi so systémom čoraz viac času, skrýva komunikáciu pred blízkymi alebo uprednostňuje chatbot pred potrebným ľudským rozhovorom, nejde už iba o produktivitu.
