Rodinné dědictví bývá jedním z nejcitlivějších míst, kde se setkává paměť, peníze, křivdy a představa spravedlnosti. Stačí jeden dům, pole, firma, účet nebo kus půdy a mezi lidmi, kteří spolu vyrůstali, se najednou otevře propast. Dřív se v podobných sporech bojovalo hlavně listinami, podpisy, svědectvími a výkladem poslední vůle. Dnes se do nich může připlést něco nového: umělá inteligence, která dodá textu, hlasu nebo dokumentu zdání autority, aniž by za ním nutně stála pravda.
Jeden americký případ ukázal, jak nepříjemně praktický ten problém je. Ve sporu o rodinné vinařství Valley View Winery v Oregonu se podle dostupných právních zpráv řešil konflikt mezi sourozenci po smrti matky. Žaloba měla mířit na kontrolu nad rodinným podnikem a majetkem, který souvisel s vinařstvím. Jenže největší pozornost nakonec nevzbudila samotná rodinná hádka, ale způsob, jakým se v soudních podáních objevily falešné právní odkazy. WealthManagement popsal, že právní tým žalující strany během několika měsíců podal dokumenty obsahující 15 AI generovaných falešných citací soudních případů a osm smyšlených citátů z rozhodnutí.
To není detail pro právníky. To je varování pro každého, kdo stále předpokládá, že „úředně vypadající text“ má automaticky větší váhu než obyčejné tvrzení.
Když faleš nevypadá jako faleš
Na starých podvodech bylo něco skoro fyzického. Padělaný podpis, přepsaná listina, falešné razítko, upravená fotografie. Člověk mohl doufat, že se falzum prozradí papírem, inkoustem, neobvyklou formulací nebo ruční chybou. Generativní AI ale posouvá problém jinam. Její výstupy mohou znít plynule, profesionálně a přesvědčivě. Ne proto, že jsou pravdivé, ale proto, že jsou jazykově uhlazené.
V právním prostředí je to obzvlášť nebezpečné. Soudní citace nejsou dekorace. Mají ukazovat, že argument stojí na existující judikatuře, že podobná věc už byla rozhodnuta nebo že určitý právní princip má oporu v autoritativním zdroji. Pokud se ale v podání objeví neexistující případ, falešný citát nebo upravený výrok soudu, nejde jen o chybu v poznámce pod čarou. Do řízení vstupuje nepravdivá autorita.
V oregonském případu soud podle ABA Journal uložil dvěma právníkům sankce ve výši 110 000 dolarů za falešné případy a vymyšlené citace. Washington State Bar Association zase shrnula, že šlo o intrarodinný spor o vinařství, kde se ve třech podáních objevily desítky falešných nebo zkreslených právních odkazů a soud mimo jiné zdůraznil absenci ověření přes běžné právní citační nástroje.
AI v takové chvíli nepůsobí jako chytrý asistent. Působí jako falešný svědek v obleku.
Proč je „halucinace“ tak nevinné slovo
U generativní AI se často mluví o halucinacích. Model si vymyslí zdroj, název studie, citát nebo soudní případ, protože jeho úkolem není „vědět“ stejným způsobem jako člověk, ale generovat pravděpodobně znějící odpověď. Slovo halucinace ale může problém zjemňovat. Zní skoro jako technická roztomilost. Jenže když se smyšlená věta objeví v soudním spise, smlouvě, lékařské zprávě nebo dědickém sporu, přestává být „halucinací“ a stává se rizikem.
Oregonský soudní dokument k této kauze popisuje, že obhajoba protistrany upozornila na citace falešných případů, smyšlené citace a porušení pravidel v podáních. Soud později řešil, kdo za podání odpovídal a jaké sankce jsou přiměřené. Klíčová lekce je přitom jednoduchá: problém nevzniká jen tím, že AI něco vymyslí. Problém vzniká hlavně tehdy, když člověk její výstup pustí dál bez ověření.
To je rozdíl mezi nástrojem a selháním systému. AI může navrhnout text. Ale člověk, instituce nebo profesionál musí vědět, kdy text nesmí projít bez kontroly. V právu, medicíně, financích nebo správě majetku nestačí, že výstup „zní dobře“. Právě to může být nejnebezpečnější.
Důkaz už nemusí být důkazem na první pohled
Vinařský spor je jedním typem problému: AI vytvoří falešnou autoritu v textu. Druhá vrstva je ještě intuitivnější a pro veřejnost možná děsivější: hlas, obraz a video. FBI už v roce 2024 upozorňovala, že útočníci využívají AI k vytváření přesvědčivých hlasových či video zpráv a e-mailů pro podvodná schémata namířená proti jednotlivcům i firmám. FTC zároveň řešila škody způsobené hlasovým klonováním a připomínala snahu bránit tomu, aby se podobná technologie používala ke scamům a impersonačním podvodům.
To mění starou lidskou intuici. Po desetiletí platilo, že slyšet hlas blízkého člověka je silnější než číst podezřelý e-mail. Video působilo přesvědčivěji než text. Nahrávka vypadala jako důkaz. Jenže syntetická média tuto hierarchii narušují. Hlas může být klonovaný. Tvář může být vygenerovaná. Dokument může být sestavený jazykovým modelem. Citace může odkazovat na případ, který nikdy neexistoval.
A největší problém je, že lidé nejsou dobří detektoři syntetické reality. Studie k rozpoznávání řečových deepfakeů ukázala, že lidé dokázali deepfake audio rozpoznat nespolehlivě; autoři ve vzorku 529 účastníků zjistili správnost kolem 73 procent a upozornili, že s rostoucí kvalitou syntézy bude odhalování ještě těžší. Novější práce o vishingových scénářích dokonce ukázala, že v realistických podvodných situacích se účastníci při rozlišování syntetických a lidských hlasů mohli mýlit s vysokou jistotou.
Jinými slovy: nestačí spoléhat na pocit, že „to přece poznám“.
Nová slabina není technologie, ale důvěra
AI podvody nejsou nebezpečné jen proto, že technologie umí napodobit hlas nebo psát právnickým jazykem. Jsou nebezpečné proto, že útočí na vztahy důvěry. Na rodiče, kteří slyší hlas dítěte v nouzi. Na zaměstnance, který dostane videohovor údajně od nadřízeného. Na soud, který očekává, že právní zástupci ověřili citace. Na rodinu, která řeší dědictví a neví, komu věřit.
Tady se dostáváme k zásadnímu posunu. Dřív se kybernetická bezpečnost často vysvětlovala jako ochrana hesel, účtů a počítačů. V éře generativní AI se ale chrání i něco méně technického: důvěra v realitu komunikace. Kdo právě mluví? Odkud text pochází? Existuje citovaný zdroj? Je dokument originál? Je hlas nahrávka člověka, nebo syntetická reprodukce?
Výzkum deepfake hrozeb z roku 2026 upozorňuje, že veřejná debata se dlouho soustředila na velké politické deepfaky a falešná videa veřejných osobností, zatímco mnoho reálných škod se přesouvá do intimnějších a praktičtějších oblastí: hlasové scam hovory, podvody s rodinou, emocionální manipulace a finanční zneužití. To přesně odpovídá tomu, co je na těchto případech nejnepříjemnější. Nejde vždy o masovou propagandu. Často jde o útok na konkrétního člověka v konkrétní zranitelné chvíli.
Jak soudy a instituce mění pravidla hry
Soudy se s AI učí zacházet za pochodu. Nejde o to technologii zakázat. Umělá inteligence může pomáhat s vyhledáváním, tříděním, sumarizací nebo návrhy textu. Jenže v prostředí, kde rozhodují fakta, práva a majetek, musí být jasné, že odpovědnost nezmizela v algoritmu.
Právě proto přibývá případů, kdy soudy trestají falešné AI citace. Ne proto, že by samotné použití AI bylo vždy zakázané, ale proto, že nikdo nesmí předkládat neověřené výmysly jako autoritativní zdroje. ComplexDiscovery shrnul, že první čtvrtletí roku 2026 přineslo v USA nejméně 145 000 dolarů sankcí za soudní podání s AI generovanými falešnými citacemi, přičemž oregonský případ patřil k nejvýraznějším.
To je důležitý signál. Instituce začínají chápat, že AI chyba není jen interní trapas. Může poškodit protistranu, zatížit soudy, zdržet řízení a podkopat důvěru ve spravedlnost. Pokud se falešný zdroj tváří jako pravý, musí někdo nést odpovědnost za to, že prošel do světa, kde může měnit osudy lidí.
Budoucnost podvodů bude méně nápadná
Když se řekne AI podvod, mnoho lidí si představí dokonalý deepfake prezidenta, celebritu v neexistujícím videu nebo hlas, který přikáže převod milionů. Jenže možná nejrozšířenější AI podvody nebudou tak filmové. Budou nenápadné. Falešná citace v právním textu. Upravený e-mail. Vygenerovaná faktura. Hlasová zpráva v rodinné krizi. Dokument, který vypadá jako profesionálně připravený, ale stojí na vymyšleném základu.
Právě to z nich dělá vážný problém. Nejde jen o to, že se falšuje obsah. Falšuje se důvěryhodnost. AI umí dodat obyčejné lži podobu odbornosti, naléhavosti nebo blízkosti. A lidský mozek na tyto signály reaguje rychleji, než stihne ověřovat.
Proto bude jednou z nejdůležitějších dovedností příštích let schopnost zpomalit. Nevěřit automaticky tomu, co má profesionální jazyk. Nevěřit automaticky hlasu, který zní povědomě. Nevěřit automaticky citaci, jen proto, že má správný formát. V důležitých situacích bude potřeba druhý kanál, ověřený zdroj, zpětné zavolání, kontrola původu dokumentu a lidská odpovědnost.
Falešný svědek nové doby
Umělá inteligence není sama o sobě svědek. Nemá paměť, svědomí ani odpovědnost. Ale může se stát nástrojem, který falešné svědectví vyrobí: textem, který cituje neexistující autoritu; hlasem, který napodobí blízkého člověka; obrazem, který dodá lži tělo; dokumentem, který vypadá, jako by prošel institucí.
V tom je případ rodinného vinařství tak silný. Nejde jen o jeden americký spor. Je to malý model budoucnosti, ve které se důkazy nebudou posuzovat jen podle toho, zda vypadají přesvědčivě, ale podle toho, zda lze ověřit jejich původ.
Dřív se podvodník snažil napodobit podpis. Dnes může napodobit styl právníka, hlas dítěte, tvář manažera nebo autoritu soudu. A právě proto se svět důkazů musí změnit. Ne proto, že už nebude možné ničemu věřit. Ale proto, že důvěra bude muset být méně automatická a víc prověřená.
Možná je to nepříjemná zpráva. Ale také je to realistická obrana: v době umělé inteligence nebude největší výhodou toho, kdo nejrychleji uvěří. Bude jí mít ten, kdo se dokáže na chvíli zastavit a zeptat se: odkud to vlastně víme?
Zdroje: WealthManagement – Estate Dispute Sees Potentially Largest Sanctions Imposed for AI-Related Misconduct [1], ABA Journal – Oregon federal judge hands down $110,000 penalty for AI errors [2], U.S. District Court for the District of Oregon – Opinion and Order, Case 1:21-cv-00157-CL [3], Washington State Bar Association – Federal Court in Oregon Surveys Sanctions for AI Fake Citations [4], FBI – FBI Warns of Increasing Threat of Cyber Criminals Utilizing Artificial Intelligence [5], FTC – Fighting back against harmful voice cloning [6], arXiv – The Deepfakes We Missed: We Built Detectors for a Threat That Didn't Arrive [7], img ai generated
