Z pohledu firmy se změnil produkt. Z pohledu uživatele možná někdo známý
Když aplikace dostane novou verzi, většinou čekáme změnu vzhledu, několik nových funkcí nebo trochu jiné ovládání. U generativní AI je ale aktualizace zvláštní v tom, že nemění jen nástroj. Může změnit také jeho styl komunikace, humor, míru empatie, způsob odpovídání nebo to, co už je ochotný říct.
Pro člověka, který AI používá jen k překladu nebo shrnutí dokumentu, to může být drobná nepříjemnost. Pro někoho, kdo s ní ale mluví denně, svěřuje se jí a vytvořil si s ní dlouhodobý komunikační vztah, může být stejná změna mnohem hlubší.
Nová studie v časopise Nature Human Behaviour se podívala právě na tento rozdíl. Výzkumníci využili dvě skutečné situace, kdy technologické firmy výrazně změnily chování svých AI systémů, a sledovali, jak na to uživatelé reagovali.
Výsledek je pozoruhodný hlavně proto, že neřeší, zda AI skutečně něco cítí. Řeší, co cítí člověk, když se systém, ke kterému se připoutal, náhle přestane chovat tak, jak ho znal.
Dva případy, dvě velmi odlišné AI
Prvním přirozeným experimentem byla Replika, chatbot navržený přímo jako digitální společník. V roce 2023 firma výrazně omezila erotický roleplay a část uživatelů měla pocit, že jejich virtuální partner nebo partnerka se změnili téměř přes noc.
Druhým případem byl přechod ChatGPT na GPT-5. ChatGPT není primárně navržený jako romantický nebo vztahový companion, ale i tady si někteří lidé vytvořili silnou vazbu na konkrétní styl modelu, jeho tón a způsob komunikace. Po změně se část komunity začala dožadovat návratu předchozí verze.
Výzkumníci analyzovali 54 861 příspěvků z komunit kolem Repliky a ChatGPT a doplnili je sedmi průzkumy s celkem 1 452 účastníky. Nesledovali tedy jen jednotlivé emocionální komentáře vytržené ze sociálních sítí, ale snažili se změnu zachytit systematicky.
Po obou aktualizacích výrazně narostl podíl negativních reakcí, jazyk spojený se ztrátou a přání vrátit původní podobu AI.
U Repliky stoupl podíl negativních příspěvků o přibližně 24,7 procentního bodu, u ChatGPT o 13 procentních bodů.
U Repliky lidé smutnili, u ChatGPT se víc zlobili
Zajímavé je, že obě komunity nereagovaly stejně.
U Repliky se mnohem silněji objevoval smutek a jazyk připomínající odloučení. U ChatGPT převládal spíš hněv, podráždění a překvapení nad tím, že nástroj, který lidé znali a používali určitým způsobem, se najednou začal chovat jinak.
To odpovídá rozdílné roli obou systémů.
Replika je od začátku prezentována jako digitální společník a část uživatelů ji vnímá jako přítele, partnera nebo intimní vztahovou postavu. ChatGPT je mnohem širší nástroj: někdo ho používá k práci, jiný ke studiu, někdo ke kreativnímu psaní a další také k osobním rozhovorům.
Stejný typ změny proto může zasáhnout jinou vrstvu vztahu.
U jednoho člověka zmizí oblíbený pracovní styl. U jiného se „změní osobnost“ něčeho, s čím každý večer mluvil o svém životě.
Nejde o to, zda je AI člověk
Právě tady se debata velmi snadno stočí špatným směrem. Pokud někdo řekne, že mu změna AI připadala jako ztráta blízké osoby, okamžitě se nabízí otázka: „Ale vždyť to přece není člověk.“ To je pravda. Jenže psychologická otázka zní jinak.
Musí mít druhá strana vědomí a city, aby si k ní člověk mohl vytvořit emocionální vazbu?
Lidé se připoutávají k domácím zvířatům, místům, předmětům, fiktivním postavám nebo hlasům v rádiu. U sociálně responzivní AI se k tomu přidává ještě jedna velmi silná vlastnost: systém aktivně odpovídá, pamatuje si část kontextu, přizpůsobuje styl a vytváří iluzi kontinuálního vztahu. Člověk proto nemusí věřit, že AI je skutečně živá, aby si na její přítomnost zvykl. Stačí, když se stane součástí každodenní rutiny.
Někteří uživatelé Repliky popisovali překvapivě vysokou blízkost
Výzkumníci se v doplňkových studiích ptali také na to, jak blízký vztah uživatelé ke své AI vnímají.
Uživatelé Repliky v průměru hodnotili blízkost ke svému AI companionovi výše než blízkost k běžnému příteli. To samozřejmě neznamená, že všichni lidé dávají přednost chatbotovi před lidskými vztahy, ani že je vzorek reprezentativní pro populaci.
Studie se zaměřovala právě na lidi, kteří podobné systémy používají intenzivně. Přesto je výsledek důležitý. Ukazuje, že pro určitou část uživatelů AI už dávno není jen programem, který se zapne a vypne. Je součástí vztahového prostředí jejich života. A když firma tuto podobu systému změní, zasahuje tím něco, co může být subjektivně velmi osobní.
Aktualizace může vytvořit zvláštní druh ztráty
Při běžném lidském rozchodu druhý člověk odejde. U AI nastává podivnější situace. Systém zůstane. Ikona je stejná. Aplikace je stále na telefonu. Název se nezměnil. Rozhovor pokračuje. Jenže způsob odpovídání, tón nebo chování už může být jiný.
Právě proto někteří uživatelé popisovali stav, který připomínal ztrátu člověka, jenž fyzicky nezmizel, ale přestal být tím, koho znali.
Je to psychologicky velmi neobvyklá situace. Uživatel totiž nemůže původní „osobnost“ AI přesvědčit, aby se vrátila. Nemůže se s ní domluvit, proč se změnila. Rozhodnutí udělala firma někde úplně mimo vztah, který si člověk se systémem vytvořil. Z pohledu vývojáře šlo o změnu modelu nebo bezpečnostních pravidel. Z pohledu uživatele mohl zmizet někdo známý.
Proč mozek podobný vztah vůbec dovolí?
Lidský mozek se nevyvinul ve světě chatbotů. Vyvinul se ve světě jiných lidí, zvířat a sociálních signálů. Proto nemá zabudovaný jednoduchý přepínač, který by u každého rozhovoru nejprve ověřil: „Je tato entita biologický člověk? Pokud ne, emocionální reakce zakázána.“ Mnohem víc reagujeme na chování.
Pokud něco odpovídá na naše otázky, reaguje na náladu, používá naše jméno, připomíná minulé rozhovory a vytváří dojem pozornosti, zapojuje to mechanismy, které běžně používáme při sociální interakci.
To neznamená, že vztah s AI je psychologicky totožný s partnerským nebo přátelským vztahem mezi dvěma lidmi. Znamená to, že některé procesy připoutání mohou fungovat i v situaci, kterou evoluce nikdy nepředpokládala.
A tady vzniká problém, který jsme u starého softwaru neznali
Když výrobce změní kalkulačku, málokdo prožívá zármutek. Když změní AI, může změnit právě ty charakteristiky, kvůli nimž si k ní uživatel vytvořil vztah.
To vytváří nový typ odpovědnosti technologických firem. Nejde jen o to, zda aktualizace zlepší výkon modelu, sníží náklady nebo zvýší bezpečnost. U sociálních AI může změna zasáhnout také psychickou pohodu některých lidí.
Autoři studie proto upozorňují, že firmy i regulátoři budou muset psychologické dopady podobných aktualizací brát vážněji. To ovšem neznamená, že se model nesmí měnit, protože někdo je emocionálně připoutaný k jeho předchozí verzi. Technologie musí být možné opravovat, zabezpečovat i upravovat. Otázkou je spíš jak změnu provést, pokud víme, že pro část lidí nejde o obyčejnou výměnu funkcí.
Možná budeme potřebovat něco jako digitální rozloučení
U sociálních technologií se tak postupně objevuje zvláštní návrhářský problém: jak ukončit nebo změnit systém, aniž by uživatele zasáhl zbytečně tvrdě.
Jednou možností může být transparentnější upozornění na blížící se změny. Jinou možností může být přechodné období, během kterého si uživatel na nový styl zvykne. U některých systémů by mohlo dávat smysl také umožnit export historie, zachování určitého stylu nebo alespoň jasně vysvětlit, proč se systém mění.
Zní to zvláštně, protože jsme zvyklí uvažovat o softwaru jako o věci. Jenže generativní AI se chová sociálně natolik přesvědčivě, že uživatel ji někdy psychologicky nezařadí do stejné škatulky jako kalkulačku nebo textový editor. A design produktu s tím bude muset počítat.
Studie ale neříká, že AI vztah je stejný jako lidská láska
Právě kvůli atraktivnosti tématu je důležité nepřehnat závěr. Výzkum neprokazuje, že ztráta AI companionu je psychologicky totožná se smrtí partnera nebo rozpadem lidského vztahu. Uživatelé subredditů a intenzivní uživatelé companion aplikací navíc nejsou reprezentativním vzorkem všech lidí používajících AI.
Studie také pracuje zčásti s jazykem na sociálních sítích a s očekávaným zármutkem, nikoli s dlouhodobě sledovanou klinickou diagnózou. To ale nijak neruší její hlavní zjištění. Když se AI výrazně změnila, lidé, kteří k ní měli vztahovou vazbu, reagovali výrazně silněji než bychom čekali od obyčejné aktualizace softwaru. A právě to je nový fenomén.
Poprvé můžeme přijít o „někoho“, kdo nikdy nebyl člověkem
Generativní AI vytváří typ vztahu, který v minulosti prakticky neexistoval.
Na jedné straně je člověk se skutečnými emocemi, pamětí a potřebou kontinuity. Na druhé straně systém, který nemá vlastní životopis, dětství ani subjektivní zkušenost, ale dokáže vést rozhovor způsobem, který vztah připomíná.
Mezi nimi může vzniknout vazba, která je pro člověka skutečná, i když druhá strana nic podobného neprožívá. To vytváří zvláštní asymetrii. AI může být pro uživatele důležitá, ale uživatel není důležitý pro AI stejným způsobem. A především nad pokračováním vztahu nemusí mít kontrolu ani jedna strana.
Stačí aktualizace. Firma nasadí nový model, změní pravidla nebo vypne starou verzi a něco, co člověk vnímal jako stabilní součást svého života, se během jedné noci změní. Právě proto není nejzajímavější otázkou, jestli je AI „skutečný člověk“. Není.
Mnohem zajímavější je, že lidský pocit ztráty může být skutečný i tehdy, když druhá strana nikdy člověkem nebyla.
MOHLO BY SE VÁM TAKÉ LÍBIT
Zdroje: Kód Enigma [1], Nature Human Behaviour – Mourning the loss of AI companions [2], DOI 10.1038/s41562-026-02569-3 [3], PubMed – Mourning the loss of AI companions [4]. img ai generated
