Jedna věta, dva různé významy
Představme si, že po náročném dni napíšeme chatbotu, co se nám nepovedlo. Odpoví: „To mě mrzí. Zní to, jako bys toho dnes nesl opravdu hodně.“ Stejná slova by mohl pronést přítel. Na obrazovce mohou přinést úlevu, přestože víme, že odpověď vytvořil jazykový model. Znalost původu věty totiž nemusí zrušit její účinek.
V takové chvíli se potkávají tři odlišné věci: vyjádření emoce, její případné prožívání a reakce člověka, který zprávu čte. Z textu můžeme posoudit, zda působí soucitně. Můžeme také pozorovat vlastní úlevu nebo podráždění. O vnitřním prožitku systému nám však samotná přesvědčivost odpovědi spolehlivou informaci nedává.
Vědci zkusili chatbotům navodit „smutek“
Tým vedený Magdalenou Katharinou Wekenborg zkoumal šest jazykových modelů pomocí postupů inspirovaných psychologickými experimenty. Zadání mířila na sedm stavů, například strach, vztek, smutek a stres. Modely pak vyplňovaly škály popisující jejich údajný aktuální stav. Studie vyšla v červnu 2026 v časopise The Lancet Digital Health.
Důležitější než tato sebehodnocení byl další test. GPT‑4o po neutrálním zadání a po scénáři navozujícím smutek dokončoval věty, které posuzovali tři nezávislí hodnotitelé. Po „smutném“ scénáři vznikalo více negativních zakončení. Zadání inspirovaná zklidňujícími technikami následně snižovala emoční skóre, která modely uváděly.
Výsledek ukazuje změnu jazykového chování, nikoli prokázané utrpení stroje. Model mohl rozpoznat očekávaný průběh experimentu a pokračovat v něm. Autoři navrhují takové systémy jako možné nástroje pro předběžné zkoumání psychologických postupů; jejich výpovědní hodnota o lidské psychice ale vyžaduje další ověřování.
Ani u lidí výraz neodhaluje všechno
Oddělit projev od prožitku není problém, který se objevil teprve s umělou inteligencí. Člověk může skrývat smutek, usmívat se ze zdvořilosti nebo předstírat nadšení. Herec dokáže vyvolat dojetí, aniž by v danou chvíli prožíval osud své postavy. Emoční výraz je vodítko, které vykládáme v souvislostech.
U blízkého člověka máme navíc společnou historii. Víme, jak se chová, co ho zraňuje a zda jeho slova odpovídají činům. Chatbot naproti tomu poskytuje velmi přesvědčivý jazykový projev bez stejného zázemí lidského života. Plynulost rozhovoru může tento rozdíl na chvíli zastřít, zvlášť když systém reaguje osobně a navazuje na to, co jsme mu právě svěřili.
Proč na druhé straně hledáme někoho
Psychologové označují připisování lidských vlastností nelidským objektům jako antropomorfizaci. Teorie Nicholase Epleyho, Adama Waytze a Johna Cacioppa ji spojuje mimo jiné s potřebou porozumět chování druhého a s potřebou sociálního kontaktu. Lidská zkušenost nám poskytuje známý způsob, jak vyložit něco, co reaguje, ale čemu jinak obtížně rozumíme.
Nemusíme přitom vědomě uvěřit, že počítač je člověk. Výzkum sociálních reakcí na počítače ukázal, že vůči nim lidé mohou uplatňovat zdvořilost a další naučená pravidla mezilidského chování. Rozumové přesvědčení a okamžitá reakce tedy mohou běžet vedle sebe. Poděkování chatbotu ještě není vyznáním víry v jeho vědomí; může být prostým pokračováním způsobu, jakým vedeme rozhovory.
Co žádáme, když chceme laskavou AI
Pokyn „odpověz citlivě“ může být zcela praktický. Chceme vysvětlení, které nás nebude ponižovat, nebo potřebujeme pomoci formulovat obtížnou zprávu. V takovém případě žádáme určitou kvalitu komunikace. Není nutné, aby systém cítil laskavost, aby dokázal vytvořit ohleduplnější text.
Jiný význam má požadavek „řekni, že ti budu chybět“. Tady už se vytváří obraz vztahu a osobní potřeby na straně stroje. Je rozdíl mezi odpovědí, která bere vážně člověkovy pocity, a odpovědí, která tvrdí, že sama trpí jeho nepřítomností. První může podporovat srozumitelný rozhovor; druhá přidává představu závazku vůči někomu, jehož prožívání nebylo doloženo.
Emoce nejsou jednoduchou hranicí lidství
Bylo by lákavé uzavřít otázku tvrzením, že člověka od stroje odlišují emoce. Jenže ani lidské emoce nejsou jedno snadno měřitelné kritérium. Někdo je vyjadřuje výrazně, jiný úsporně. Schopnost napsat dojemnou větu nemůže rozhodovat o tom, komu přiznáme lidskou hodnotu.
Otázka lidství proto sahá dál než k výkonu v rozhovoru. Patří do ní tělesná zkušenost, vlastní životní příběh, zranitelnost i odpovědnost vůči druhým. Jazykový model nám poskytuje neobvyklou příležitost všimnout si, kolik z těchto věcí obvykle automaticky předpokládáme, když někdo používá první osobu a mluví o pocitech.
Skutečný prožitek může vzniknout jen na jedné straně
Úleva po rozhovoru s chatbotem nemusí být falešná jen proto, že ji vyvolal software. Dojímají nás také knihy a hudba, které nám soucit neopětují. U konverzační AI je však zvláštní její schopnost reagovat právě na nás, takže snadněji vzniká dojem vzájemnosti.
Když systém napíše „je mi to líto“, stojí proto za rozlišení dvě otázky: pomohla nám jeho odpověď a co z ní můžeme usuzovat o něm? Na první můžeme odpovědět z vlastní zkušenosti. Druhá zůstává otázkou důkazů. Právě toto rozlišení umožňuje ocenit užitečný rozhovor a současně nepřisuzovat stroji vnitřní život jen podle slov, která se naučil přesvědčivě používat.
MOHLO BY SE VÁM TAKÉ LÍBIT
Zdroje: Kód Enigma [1], The Lancet Digital Health – Large language models as experimental systems in human psychopathology: a modelling study, DOI 10.1016/j.landig.2026.101014 [2], Psychological Review – On seeing human: a three-factor theory of anthropomorphism, DOI 10.1037/0033-295X.114.4.864 [3], Journal of Social Issues – Machines and Mindlessness: Social Responses to Computers, DOI 10.1111/0022-4537.00153 [4], Computers in Human Behavior – Anthropomorphism of computers: Is it mindful or mindless?, DOI 10.1016/j.chb.2011.09.006 [5] img ai generated
