Na obrazovce mohou vypadat téměř stejně.
Velké jazykové modely výrazně zlevnily výrobu plynulého a přesvědčivě znějícího obsahu. Nezlevnily však stejnou měrou ověřování, odborný úsudek ani odpovědnost za výsledek. Problémem budoucnosti proto nemusí být záplava očividně špatných textů. Může jím být nadbytek materiálů, které vypadají profesionálně, ale nikdo je pořádně nedomyslel.
V kostce
Nerecenzovaný model zveřejněný v červenci 2026 předpovídá, že jazykové modely mohou vědcům pomoci vytvořit více studií, aniž by se zvýšila jejich kvalita. Příčinou podle autorů není pouze AI, ale akademický systém odměňující počet publikací.
Stejný tlak může působit v redakcích, školách, marketingu i firemních kancelářích: ušetřený čas se snadno promění v požadavek na vyšší produkci. Plynulý jazyk, profesionální struktura ani dlouhý seznam zdrojů už proto nejsou spolehlivým znakem důkladné práce.
Podstatnější je, zda lze dohledat původ tvrzení, odlišit fakta od interpretací a určit, kdo za výstup ručí. Hlavní otázka nezní, zda text napsala AI, ale proč bychom měli věřit tomu, co říká.
Celý článek si můžete přečíst níže
Vědec jako zvíře hledající další výhodný projekt
Autoři nové studie rozdělili vědeckou práci do několika částí. Nejprve přichází hledání: formulování hypotéz, procházení literatury a předběžné experimenty, které ukážou, zda má projekt cenu dále rozvíjet.
Potom následuje nezbytná práce. Je třeba analyzovat data, vytvořit grafy, sepsat rukopis a splnit podmínky potřebné k publikaci.
Nakonec existuje fáze, kterou lze snadno zkrátit. Další kontrolní experiment, důkladnější diskuse slabin, přepracování argumentu, hledání alternativního vysvětlení nebo několik kol stylistických a odborných úprav. Studie může být zveřejněna i bez části těchto kroků, ale právě ony často rozhodují, zda bude pouze přijatelná, nebo skutečně dobrá.
Model využívá principy teorie optimálního hledání potravy. Ta se původně ptá, kdy se zvířeti vyplatí dál využívat současný zdroj a kdy je lepší přesunout se jinam. Výzkumník stojí před podobným rozhodnutím: má ještě týden vylepšovat současnou studii, nebo otevřít nový projekt, který může přinést další publikaci?
LLM podle modelu zrychlují hledání nápadů, psaní, analýzy i přípravu povinných částí rukopisu. Tím však zároveň zvyšují cenu času stráveného dalším zpřesňováním. Za stejnou dobu by totiž vědec mohl rozběhnout něco nového. Autoři proto očekávají, že v systému zaměřeném na množství výstupů budou lidé dělat „více, ale méně dobře“, místo aby vytvořili stejné množství kvalitnější práce.
Model nepředpovídá budoucnost. Odhaluje pobídku
Výsledek je potřeba číst opatrně. Studie zatím neprošla recenzním řízením a nesledovala skutečné výzkumné týmy před zavedením LLM a po něm. Jde o model, jehož výsledek závisí na přijatých předpokladech.
Autoři navíc jazykovým modelům dopřávají téměř ideální podmínky. Předpokládají, že jsou levné, rychlé a při zadaných úkolech dostatečně přesné. Negativní výsledek tedy nevzniká primárně kvůli halucinacím nebo chybám AI. Objevuje se i tehdy, když nástroj funguje dobře.
Problém leží v okolním systému.
Akademická kariéra se často hodnotí podle počtu publikací, citačních ukazatelů, získaných grantů a délky životopisu. Pokud technologie zvýší rychlost produkce, ale kritéria kvality zůstanou stejná, může se očekávané minimum výstupů postupně zvýšit. Co bývalo mimořádnou produktivitou, se stane novým standardem.
Biolog Carl Bergstrom, jeden z autorů modelu, proto tvrdí, že LLM pouze nastavují zrcadlo problémům, které ve vědě existovaly dávno před nimi. Jako možnou změnu navrhuje hodnotit několik nejlepších prací vědce namísto celkového počtu položek v jeho publikačním seznamu.
Stejný tlak působí v redakci, kanceláři i škole
Představme si, že redaktor dříve dokázal za den připravit jeden důkladný článek. S pomocí LLM by mohl stejný text vytvořit rychleji, zbývající čas využít na kontrolu zdrojů, další rozhovor a lepší vysvětlení souvislostí.
Může se však stát něco jiného. Vydavatel zjistí, že redaktor nyní zvládne čtyři články, a právě čtyři se stanou novým plánem.
Podobně může analytik využít ušetřený čas k ověření předpokladů a vytvoření několika scénářů. Firma po něm ale může místo toho chtít trojnásobný počet prezentací. Student může svou práci lépe strukturovat a potom ji doplnit vlastním výzkumem. Může ji také odevzdat hned, jakmile chatbot vytvoří první přijatelnou verzi.
LLM nemusejí samy rozhodnout, která cesta převládne. Rozhodnou pobídky: co instituce počítá, za co platí, co kontroluje a jak rychle požaduje další výstup.
Riziko tedy nespočívá pouze v tom, že AI občas vytvoří nepravdivé tvrzení. Spočívá také v tom, že umožní vznik obrovského množství dostatečně dobrého materiálu, jehož zdokonalování už nebude ekonomicky výhodné.
Jazyk byl kdysi dražší než dnes
Napsat dlouhý a plynulý text vyžadovalo čas, určitou úroveň znalostí a alespoň základní schopnost uspořádat argument. Kvalitní jazyk proto mohl fungovat jako nedokonalý, ale užitečný signál, že autor tématu věnoval práci.
Tento signál slábne.
Jazykový model dokáže během několika okamžiků vytvořit souvislý úvod, mezititulky, argumentační strukturu, závěr i seznam doporučení. Umí znít akademicky, empaticky, odborně nebo rozhodně. Dokáže napodobit opatrnost větami o tom, že „výsledky je třeba interpretovat v kontextu“, aniž by skutečně rozuměl tomu, který kontext je podstatný.
Ani seznam zdrojů už automaticky nepředstavuje důkaz pečlivosti. Odkazy mohou být vymyšlené, zastaralé, nerelevantní nebo mohou podporovat mnohem slabší tvrzení, než jaké text pronáší. Srovnávací výzkum klinických přehledů například zjistil, že LLM dokázaly rychle vytvořit přesvědčivě vypadající texty, ale ty měly méně zdrojů, slabší logickou konzistenci a nižší přesnost citací než lidské přehledy ve sledovaném vzorku.
Hladkost proto začíná měřit spíše kvalitu použitého nástroje než kvalitu myšlení.
Otázka „Napsala to AI?“ míří vedle
Přirozenou reakcí je hledání nástroje, který strojový text rozpozná. Jenže detekce původu textu je nejistá.
Studie zveřejněná v časopise Patterns ukázala, že některé detektory výrazně častěji označovaly za strojově vytvořené texty lidí, pro něž angličtina nebyla mateřským jazykem. Jednodušší slovník a méně jazykové variability si nástroj mylně vyložil jako stopu AI.
Další výzkumy ukazují, že parafrázování může výkon detektorů prudce snížit. Nástroj může spolehlivěji rozpoznat neupravený výstup konkrétního modelu, ale selhat poté, co text přepracuje člověk nebo jiný algoritmus.
To vede k důležitému závěru: původ a kvalita nejsou totéž.
Člověk může napsat povrchní, chybný a účelově manipulativní text bez jakékoli AI. Jazykový model může naopak pomoci odborníkovi lépe uspořádat velmi kvalitní práci, jejíž data, úsudek a závěry jsou lidské a pečlivě zkontrolované.
Správná otázka proto nezní pouze: „Použil autor AI?“ Mnohem užitečnější je ptát se: „Jak tento výstup vznikl a proč bych mu měl věřit?“
První test: lze tvrzení dovést až k původnímu důkazu?
Kvalitní text umožňuje dohledat, odkud pocházejí jeho nejdůležitější tvrzení. Nejen k jinému článku, který informaci převzal, ale pokud možno k původní studii, datové sadě, zákonu, dokumentu nebo přímému svědectví.
Nestačí, že odkaz existuje. Musí skutečně podporovat větu, u níž stojí.
Rychlokvašený materiál často vytváří řetězec zdánlivé autority. Jeden web odkazuje na druhý, druhý na třetí a nikde není původní důkaz. Jindy zdroj potvrzuje pouze obecnou souvislost, zatímco text z ní vytvoří silný příčinný závěr.
První kontrola proto může být velmi jednoduchá: otevřít nejdůležitější odkaz a zjistit, zda opravdu říká to, co článek tvrdí.
Druhý test: rozlišuje text fakt, interpretaci a předpověď?
Dobrá práce ukazuje, kdy popisuje naměřený výsledek, kdy jej interpretuje a kdy pouze odhaduje budoucí vývoj.
U studie o vědcích a LLM je například zásadní rozdíl mezi větami:
„Model za určitých předpokladů předpovídá menší míru zpřesňování.“
a
„Vědci používající AI už produkují horší výzkum.“
První věta odpovídá tomu, co autoři skutečně udělali. Druhá by z modelu vyráběla empiricky prokázaný stav.
Rychle vytvořené texty tuto hranici často zahladí. Všechny věty znějí stejně sebejistě, a čtenář tak nepozná, která stojí na datech a která na domněnce.
Třetí test: umí výstup pojmenovat svou nejslabší část?
Skutečné porozumění se neprojevuje jen schopností vysvětlit hlavní argument. Projevuje se i tím, že autor pozná jeho hranice.
Kvalitní výstup uvádí, jaká data chybějí, co nelze z výsledků vyvodit, pro koho závěr nemusí platit a jaké jiné vysvětlení je možné. Nejde o povinnou závěrečnou větu, že „je zapotřebí další výzkum“. Omezení musí být konkrétní.
LLM dokáže vytvořit obecně znějící odstavec o nejistotě. Obtížnější je určit právě tu výjimku, která může celý závěr změnit. To vyžaduje znalost oboru a ochotu oslabit vlastní působivý příběh.
Čtvrtý test: přináší text úsudek, nebo jen dobře uspořádaný průměr?
Jazykové modely jsou velmi dobré v syntéze běžných tvrzení. Dokážou rychle vytvořit přehled toho, co se o tématu obvykle říká.
Výsledkem ale může být text bez skutečného rozhodnutí. Obsahuje všechny známé body, nic zásadního nevynechá, ale čtenář po jeho dočtení neví, co je nejdůležitější, které tvrzení je slabé a kde se zdroje rozcházejí.
Kvalita často vzniká právě výběrem. Autor musí určit, co do textu nepatří, která informace je zavádějící, jaký úhel je nosný a proč některému zdroji důvěřuje více než jinému.
Dobré dílo proto nemusí obsahovat více informací. Musí obsahovat lépe zvolené informace.
Pátý test: lze postup zopakovat nebo alespoň zkontrolovat?
Ve vědě to znamená přístup k metodice, datům, použitým parametrům a analytickému postupu. Ve firemní analýze může jít o vstupní čísla a předpoklady. V novinářském textu o jasné označení zdrojů, dat a způsobu výpočtu.
NIST ve svém rámci pro generativní AI zdůrazňuje potřebu testování, sledování původu obsahu, dokumentace a lidského dohledu. Důvěryhodnost nemá stát pouze na výsledku, ale také na možnosti auditovat proces, který k němu vedl.
Právě zde se může AI stát užitečnou i nebezpečnou zároveň. Dokáže průběžně uchovávat rešeršní kroky a pomáhat s kontrolou. Stejně snadno ale umožní vytvořit finální dokument bez viditelné stopy, odkud jednotlivé informace přišly.
Šestý test: kdo za výstup ručí?
Text může být technicky vytvořen člověkem, AI nebo jejich kombinací. V každém případě by měl existovat někdo, kdo je připraven převzít odpovědnost za jeho obsah.
Ne pouze potvrdit, že jej „zkontroloval“, ale vysvětlit klíčová rozhodnutí, doložit zdroje a opravit chybu.
Odpovědnost je možná nejvzácnější složkou budoucího obsahu. LLM může vytvořit milion vět, ale nemůže nést profesní, právní ani morální následky toho, že byly zveřejněny. Ty vždy zůstávají lidem a institucím, které výstup použily.
Původ obsahu pomůže, ale pravdivost nezaručí
Technické standardy, jako jsou Content Credentials vyvíjené koalicí C2PA, mohou k digitálnímu souboru připojit ověřitelnou historii jeho vzniku a úprav. Uživatel tak může zjistit, zda obraz vznikl ve fotoaparátu, prošel editací nebo byl vytvořen generativním nástrojem.
Je to důležitý krok, ale nikoli automatická pečeť pravdy. Skutečná fotografie může být vytržena z kontextu a lidsky napsaný článek může lhát. Naopak syntetická ilustrace může korektně vysvětlovat vědecký mechanismus.
Provenience odpovídá na otázku, jak obsah vznikl. Hodnocení důkazů musí stále odpovědět na otázku, zda je jeho sdělení správné.
AI nemusí kvalitu ničit. Může ji také osvobodit
Pesimistický scénář není nevyhnutelný.
LLM mohou vědcům pomoci s programováním, překlady, orientací v literatuře, dokumentací nebo přípravou první verze textu. Mohou zpřístupnit odbornou komunikaci lidem, kteří nepíší v dominantním jazyce, propojit vzdálené obory a umožnit menším týmům provádět úkoly, na něž dříve neměly kapacitu.
Rozhodující je, co se stane s ušetřeným časem.
Pokud jej organizace okamžitě promění v požadavek na vyšší objem, vznikne továrna na výstupy. Pokud jej ochrání pro kontrolu, experimentování, promýšlení a komunikaci, může stejná technologie kvalitu zvýšit.
Nestačí tedy učit lidi lépe zadávat prompty. Instituce musejí změnit také to, podle čeho oceňují jejich práci.
V době nadbytku nebude vzácný text, ale úsudek
Internet už dávno odstranil nedostatek informací. LLM nyní odstraňují také nedostatek formulovaného obsahu.
Článek, rozbor, prezentaci, recenzi nebo shrnutí lze vytvořit téměř okamžitě. Množství přestává být úspěchem samo o sobě, protože jeho výrobní cena rychle klesá.
Vzácnější budou jiné věci: důvěryhodný výběr, ověřené důkazy, skutečná zkušenost, originální pozorování, ochota přiznat nejistotu a člověk, který za závěr ručí.
Rozdíl mezi kvalitním textem a rychlokvaškou proto nemusí být vidět v první větě. Někdy nebude vidět ani v poslední. Ukáže se teprve ve chvíli, kdy se někdo zeptá, proč tvrzení platí, odkud pochází a co by je mohlo vyvrátit.
Dříve byl drahý samotný vznik textu. V éře LLM bude stále dražší zjistit, zda za hladkými větami stojí skutečná práce.
Věděli jste, že…
…model předpovídající větší množství méně propracovaných vědeckých článků nepotřebuje předpokládat, že LLM chybují? Autoři jim naopak přisuzují vysokou rychlost, nízké náklady a dobrou přesnost. Negativní výsledek vzniká proto, že dokončení dalšího článku začne být výhodnější než další zlepšování toho současného. Studie tak nekritizuje jen technologii, ale především systém, který umí snadno počítat publikace, zatímco hloubku práce měří mnohem obtížněji.
MOHLO BY SE VÁM TAKÉ LÍBIT
Zdroje: Kód Enigma [1], Nature – Scientists using LLMs will ‘do more, less well’, modelling study predicts [2], arXiv – The unintended consequences of large language models as a labor-augmenting technology in science [3], NIST – Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile [4], Patterns – GPT detectors are biased against non-native English writers [5], Association for Computational Linguistics – Paraphrasing Attack Resilience of Various AI-Generated Text Detection Methods [6], npj Digital Medicine – Comparison of LLM-generated and human-authored clinical reviews [7], C2PA – Content Credentials and content provenance [8], UNESCO – Guidance for generative AI in education and research [9], img ai generated
