Může mít podobu nenápadného chemického vzorce, neobvyklého poměru izotopů nebo souboru molekul, který se objeví v datech z planetární sondy.
A právě zde má nastoupit umělá inteligence. Strojové učení dokáže procházet obrovské objemy dat a hledat v nich vzorce, které by člověk mohl snadno přehlédnout. Nová studie vědců z Michiganské státní univerzity však ukazuje, že stejný systém může s téměř absolutní jistotou označit za život také něco, co se rozmnožovat neumí a živé není.
Největší nebezpečí přitom nespočívá v tom, že by AI nic nepoznala. Spočívá v tom, že se může mýlit sebevědomě.
Mimozemský život možná nebude připomínat nic pozemského
Astrobiologové dlouhodobě hledají takzvané biosignatury, tedy měřitelné stopy, které by mohly naznačovat přítomnost současného nebo dávného života. Může jít o specifické molekuly, struktury připomínající mikrofosilie, zvláštní minerální vzorce nebo chemickou nerovnováhu v atmosféře planety.
Problém začíná už u samotné definice. Lidstvo zatím zná pouze jediný příklad života: život na Zemi. Všechny organismy, které kdy byly prozkoumány, pocházejí ze společného biologického prostředí a používají podobné základní mechanismy. Vědci proto nevědí, které vlastnosti života jsou skutečně univerzální a které představují pouze pozemskou zvláštnost.
NASA připomíná, že dosud nemáme ani všeobecně přijímanou definici života. Při hledání na jiných světech se proto vědci často nesnaží objevit samotný organismus, ale soubor nepřímých stop. Ani přítomnost kyslíku, metanu nebo složitých organických molekul však nemusí automaticky dokazovat biologickou činnost. Podobné látky mohou za určitých podmínek vznikat také neživými chemickými procesy.
Právě proto působí umělá inteligence tak lákavě. Mohla by se naučit rozlišovat mezi chemickými podpisy živých a neživých systémů i tam, kde jsou rozdíly příliš složité pro běžnou lidskou analýzu. Některé dosavadní modely skutečně dokázaly rozpoznávat biologický původ zkoumaných vzorků s velmi vysokou úspěšností. NASA již eviduje projekty využívající strojové učení k analýze molekul, hornin i snímků potenciálních biosignatur na povrchu Marsu.
Jenže mimozemský vzorek by nebyl další položkou ze známé sbírky. Byl by to materiál pocházející z prostředí, které se v tréninkových datech nikdy neobjevilo.
Digitální organismy v počítačové Petriho misce
Ankit Gupta a Christoph Adami otestovali tento problém pomocí systému Avida, jenž slouží jako jakási digitální Petriho miska. Neobsahuje skutečné buňky ani molekuly. Žijí v něm krátké počítačové programy složené z řetězců instrukcí, které se za určitých podmínek dokážou kopírovat, měnit a vyvíjet.
Tyto digitální organismy nejsou biologickým životem v běžném smyslu, ale napodobují jednu z jeho základních vlastností: schopnost replikace. Výhodou systému je, že vědci přesně vědí, které sekvence jsou životaschopné a které nikoli. Mohou proto posoudit nejen odhad AI, ale také skutečný výsledek.
Výzkumníci měli k dispozici 36 171 životaschopných řetězců dlouhých devět instrukcí. Část z nich použili k výcviku neuronové sítě, která měla rozlišovat mezi replikujícími se a nereplikujícími se programy. Na běžném testovacím souboru dosáhla síť přesnosti 99,97 procenta. Z více než sedmi tisíc případů nesprávně označila pouze dva.
Podle standardního hodnocení šlo o mimořádně úspěšný model. Zdálo se, že se naučil bezpečně poznávat digitální život.
Poté ale vědci změnili způsob testování.
Stačilo několik drobných změn
Namísto dalších známých příkladů začali modelu předkládat nové řetězce a postupně v nich měnili jednotlivé instrukce. Každou změnu ponechali pouze tehdy, když zvýšila přesvědčení AI, že jde o živý, replikující se program.
Nevytvářeli tedy skutečný život. Hledali pouze takovou kombinaci znaků, která se bude neuronové síti jako život jevit.
Výsledek byl znepokojivý. Už po padesáti dotazech dosahovala průměrná falešná jistota modelu přibližně 77 až 83 procent. Po sto dotazech překonala 99 procent a nejpozději po 150 úpravách označoval systém neživé sekvence za živé se stoprocentní jistotou.
Ani jeden z výsledných řetězců se přitom ve skutečnosti nedokázal replikovat. Model se nenechal zmást náhodnou chybou. Výzkumníci systematicky našli oblasti, v nichž jeho vnitřní představa života přestala odpovídat realitě.
AI zřejmě nepochopila přesnou funkční kombinaci instrukcí nutnou k rozmnožování. Naučila se obecný vzhled sekvencí, které se skutečným replikátorům podobaly. Jakmile řetězec obsahoval dost správně působících motivů, model jej přijal, přestože celek nefungoval.
Je to podobné, jako kdyby systém rozpoznával ptáky podle peří, zobáku a křídel, ale nedokázal ověřit, zda pozorovaný objekt skutečně žije. Dostatečně přesvědčivá napodobenina by pro něj mohla být ptákem s větší jistotou než skutečné zvíře.
Dokonalý výsledek ve škole, selhání v neznámém světě
Studie ukazuje rozdíl mezi úspěchem v testu a skutečným porozuměním. Neuronová síť se může naučit velmi přesně pracovat s daty podobnými těm, na kterých byla vycvičena. Jakmile však narazí na něco mimo známé rozložení, její sebejistota nemusí klesnout. Může naopak zůstat extrémně vysoká.
V informatice se takovým případům říká data mimo tréninkové rozložení. U fotografie může jít o obraz, který se nepodobá ničemu ze známé databáze. U medicínského skenu o neobvyklou kombinaci příznaků. Při hledání mimozemského života by však prakticky každý skutečně cizí organismus nebo chemický systém mohl představovat právě takový případ.
To je podstata paradoxu. AI má pomoci najít život, který neznáme. Vyškolit ji ale můžeme pouze na životě, který známe.
Gupta a Adami navíc ověřili, že problém nebyl omezen na jednu konkrétní neuronovou síť. Podobnou zranitelnost vykazovaly také konvoluční sítě, transformery, podpůrné vektorové stroje, náhodné lesy, gradientní modely i jednoduchá logistická regrese. Výsledky proto nepoukazují na jednu vadnou architekturu, ale na obecnější slabinu metod, které se učí pravděpodobnostní vzorce z omezených dat.
Studie zatím neposlala žádnou sondu na scestí
Výsledky neznamenají, že současné planetární sondy již zaměňují kameny za mikroorganismy nebo že každá analýza využívající strojové učení je nedůvěryhodná. Experiment pracoval s umělým digitálním světem, nikoli se skutečnými chemickými vzorky z Marsu, Europy nebo Enceladu.
Sami autoři zdůrazňují, že jejich studie odhaluje možnou zranitelnost, nikoli důkaz konkrétního selhání při analýze mimozemské hmoty. Dalším krokem by mělo být podobné testování modelů pracujících s reálnými daty z hmotnostní spektrometrie a dalších přístrojů používaných v astrobiologii.
Přesto nejde o akademickou drobnost. Kosmické mise jsou drahé, vzorky vzácné a možnosti opakovaného měření omezené. Sonda operující stovky milionů kilometrů od Země může být nucena sama rozhodnout, které horniny prozkoumá, kam zamíří nebo která data odešle přednostně. Chybný model by nemusel pouze nesprávně vyhodnotit vzorek. Mohl by ovlivnit celý další postup mise.
Historický objev nebude smět stát na jednom čísle
První důvěryhodný důkaz života mimo Zemi téměř jistě nevznikne jediným měřením ani jediným verdiktem algoritmu. Bude vyžadovat několik nezávislých metod, opakovaná pozorování, kontrolu možných neživých vysvětlení a otevřenou diskusi mezi různými vědeckými týmy.
NASA už nyní upozorňuje, že potvrzení biosignatury vyžaduje více navzájem se podporujících důkazů a důkladné vyloučení falešných pozitivních výsledků. I velmi vysoká pravděpodobnost vypočítaná modelem zůstává pouze odhadem, nikoli automatickým potvrzením života.
Umělá inteligence může být v tomto procesu mimořádně užitečná. Může vytřídit miliony měření, upozornit na neobvyklé chemické kombinace a vybrat vzorky hodné podrobnějšího zkoumání. Neměla by se však stát posledním rozhodčím otázky, která patří k největším v dějinách vědy.
Největší ironií budoucího objevu by totiž nebylo, kdyby lidstvo mimozemský život přehlédlo. Mnohem podivnější by bylo, kdyby jej nejprve slavnostně oznámilo, aby později zjistilo, že algoritmus pouze rozpoznal přesvědčivý stín něčeho, co nikdy nežilo.
Věděli jste, že…
Systém Avida se používá ke studiu digitální evoluce už od 90. let. Jeho programy se mohou rozmnožovat, mutovat a soutěžit o výpočetní zdroje podobně, jako biologické organismy soutěží o potravu a prostor. Některé evoluční jevy nejprve pozorované v digitálním prostředí byly později nalezeny také u skutečných organismů.
Zdroje: Gupta, Ankit; Adami, Christoph – Can AI Detect Life? Lessons from Artificial Life [1], NASA – AI Astrobiology: Life Detection & Biosignatures [2], NASA Science – Can We Find Life? [3], img ai generated
