Lidští piloti jsou drazí a jejich ztráta nepříjemná. Proto se v současných ozbrojených konfliktech čím dál více prosazují bezpilotní letouny řízené umělou inteligencí. Dron o velikosti hračky dnes dokáže doručit nejen pizzu do kanceláře, ale také trhavinu do věže nepřátelského tanku.
Počítače jsou den ode dne inteligentnější a dokážou zvládat množství rutinních úkolů, na které byl kdysi potřeba člověk. Nejinak je tomu ve vojenství. Dřív bylo třeba mít v každé plechovce maso – ať šlo o letadlo, tank nebo traktor. První experimenty se zbraněmi s vlastní inteligencí proběhly již za druhé světové války – například pokusy o vycvičení holubů k rozpoznání bitevní lodě na moři. Zdokonalování elektroniky postupně vedlo k zavádění bezpilotních, dálkově řízených prostředků. Pilot se svými nevýhodami vysoké ceny, nákladného a dlouhého výcviku, extra hmotnosti a špatné obětovatelnosti byl přestěhován do kukaně s joystickem, obrazovkou a hrnkem kávy. Získávání informací i „just-in-time“ doručení munice se významně zlevnilo. Maso se přestěhovalo mimo plechovku, technologie se stala „vegetariánskou“.
Bezpilotní prostředky se postupně zmenšily až na úroveň hraček. Oku nad bojištěm je jedno, zda je dronem od drahého armádního dodavatele, nebo civilní hračkou za pár tisíc – vyhovuje-li dolet a nosnost, vyhoví i platforma.
Zlomem se stal konflikt na Ukrajině. Počáteční slávu si vydobyly turecké Bayraktary. V pozdějších fázích však přišly ke slovu i drony „hračkové“, sloužící jako dálkové oči a násobící účinnost dělostřelecké palby. Těžší drony nesou upravené granáty a shazují je na cíle. Protivník se ale přizpůsobuje, nasazuje vlastní drony a používá prostředky elektronického boje od elegantního spoofingu GPS po brutální rušení hrubou silou. Což vede k dalšímu vývoji, od lepších rádií po plnou autonomii. Pořád zde ale hraje roli maso, pilot rádiem spojený s plechovkou. Spoje i satelitní navádění se dají „zarušit“, což znamená vynucený návrat k méně přesným technikám. Je tedy třeba vrátit řízení zpět do plechovky. Maso tam už nenacpeme, je příliš drahé, objemné a těžké. Vracíme se tak k původnímu nápadu s holubem, kterého ale nahrazuje křemíkový čip.
Zbavit se masa
Pilotova role bývá z větší části prostá: zorientuj se, identifikuj protivníka, nafoť ho nebo mu doruč zásilku. Nic, co by nešlo nahradit strojovým viděním a algoritmy – výkonnost stroje neporovnáváme s nedosažitelným bezchybným ideálem, ale s průměrnými unavenými vystresovanými lidmi. Někde je situace příjemně jednoduchá: splést si vlastní tank nebo pěšáka s cizím nemůžeme, víme-li, že v oblasti cíle žádní naši nejsou. Maso již nepotřebujeme ani na dálkové ovládání. Zbraň se stává „veganskou“.
Maso je ale problematické i jinde. Myriády senzorů chrlí proudy videí, fotografií, radarových dat, zachycených signálů. Člověk toho tolik nezvládne, brzy se unaví a přestane dávat pozor. Zejména pokud se nic neděje. Zde přebírá zátěž strojové vidění a jiné analýzy vzorců. Analytik pak dostane již předžvýkaná data, kde je záplava toho nezajímavého již odfiltrována, podobně jako když lidské vědomí dostává jen zlomek dat ze všech nervů. Taková data pak mohou být různé kvality. V současnosti se v Izraeli ke generování seznamu cílů používá systém Lavender, produkující značné množství „vedlejších škod“, mimo armádu známých jako mrtví civilisté. Často jsou to celé rodiny.
Mnoho činností je také velmi rutinních. Snímkovací lety nebo sběr senzorových dat, vyžadující přesuny nad danou oblastí po dané dráze. Nebo vyčkávací munice, která nad bojištěm hlídá, co se šustne – signatura tanku, pěšce, jiného dronu, radarový signál. Dron pak může tiše reportovat, reagovat a upustit granát, anebo se jako kamikaze sám obětovat. Námořní drony automaticky rozpoznají siluetu lodě, provedou identifikaci typu a dle něj vyberou zranitelné místo, do kterého nabourat. Totéž (s jinými knihovnami cílů) platí pro pozemní boj nebo pro útoky na infrastrukturu. Dron s dlouhým doletem lze spíchnout z malého letadla. Místo pilota bomba, místo autopilota AI. Doletí k vybrané rafinerii. Rozpozná cíl s vysokou hodnotou, například destilační kolonu. Zamíří do nejhůř opravitelného místa a udeří. Tato technologie nejspíš stojí za ukrajinskými útoky hluboko v ruském území.
V oblastech, kde se k obvyklým rizikům přidává i kontakt s municí, pak k výhodám dronů patří i lepší postradatelnost. Masově vyráběný robot může být o hodně levnější než výcvik pěšáka, který navíc dlouho trvá, zatímco nalít firmware do stroje zabere pár vteřin. Odpadají též oznámení rodinám, že pěšec byl spotřebován. Výhodou je i reakční rychlost elektroniky. Člověk je omezený přenosovou kapacitou smyslů, rychlostí nervů, odolností vůči přetížení. Největším limitem agility současných leteckých plechovek jsou piloti. Stíhačka s pilotem nemá proti bezpilotnímu stroji s dobrou AI mnoho šancí.
Proti mandelinkám i tankům
Dron nemusí být osamocený – síla je i v množství. Koordinované roje, s chováním vypůjčeným od ptáků, ryb nebo hmyzu, mohou pokrýt velkou oblast nebo zahltit obranu protivníka. I mrňavý dron dokáže vyřadit tank (poškozením jeho senzorů, malou explozí v hlavni, vyčerpáním jeho obranných mechanismů). Trhaviny potřebné ke způsobení škody, která si vynutí drahou opravu, stačí pár desítek gramů, je-li aplikována na správném místě. Roj se navíc lépe přizpůsobuje ztrátám a nepotřebuje drahé klimatizované hangáry – dá se vypustit z kontejneru na návěsu kamionu nebo vysypat z letadla. Pro dálkové nasazení lze roj s krátkým doletem doručit větším dronem.
Technologie je inherentně dvojího užití, dual-use. Strojové vidění, takové, jež v zemědělství dovede rozpoznat mandelinku na listě či rostlinu plevele a místo postřiku ji odstraní laserem (nebo oznámí její pozici pro precizní aplikaci malého množství pesticidu), umí stejně dobře rozpoznat pěšáka nebo tank a odstranit je granátem (nebo oznámit jejich pozici pro precizní aplikaci malého množství dělostřelectva). Stačí přeučit posledních pár vrstev neuronové sítě na jinou definici škůdce. Paralela s husitským využitím cepů při boji zblízka se přímo nabízí.
Dual-use povaha strojů se ale dá využít i ve prospěch civilistů. Dron pro doručování pizzy ve městě sdílí většinu komponent s dronem pro bojiště, liší se převážně spojení, senzorika, případně avionika. Ta samá výrobní linka může tedy saturovat potřeby civilní logistiky, a v případě konfliktu pouze přejít na třísměnný provoz. S možnými geopolitickými problémy lze počítat již předem, ve fázi konstrukce dronů či aut a továren na ně. Potenciál masové výroby zbraní (a munice pro ně) je důležitou součástí odstrašení protivníka, jakkoli je v Evropě, s jejími zdlouhavými schvalovacími řízeními a deindustrializačními tlaky, podceňován.
Krysí neurony hrají Doom
Z mlýnku na maso se s trochou štěstí stává mlýnek na čipy. S tím jde ruku v ruce závislost na čipech, na jejich výrobě a celém dodavatelském řetězci – nedostatek mikrokontrolérů během „čipového hladomoru“ na měsíce zablokoval automobilový průmysl. Továrny na čipy tak představují problém nejen ekonomický, ale i bezpečnostní. Uvědomují si to už i jednotlivé státy, ale reagují jako obvykle s rychlostí ledovce. Problémem jsou i fyzikální limity, nicméně v laboratořích se objevují alternativy od různých druhů nanoelektroniky po takzvané wetware computers využívající mozkové organoidy. Miliardové litografické stroje mohou být nahrazeny jednoduššími, takřka garážovými postupy (viz kanál The Thought Emporium na Youtube a pokusy naučit krysí neurony hrát Doom).
Nezanedbatelnou oblastí jsou i simulace a výcvik. Významně se překrývá s civilní oblastí počítačových her – rozdíl je vlastně jen ve věrohodnosti simulace. Mnohé hry jsou dnes lepší než armádní výcvikové systémy včera. Fyzikální simulace pronikají do herních enginů. Samořídící auta se rutinně trénují v simulacích – nehody se stávají mimo dohled novinářů a následky jsou nulové. Neobvyklé situace z reality lze pak zakomponovat do výcvikových scénářů v mnoha generovaných variacích a celou flotilu doučit softwarovým updatem. Doučování lze navíc provést i v reálném čase; zbytek roje pak nemusí opakovat chybu sestřeleného jedince.
Strojové vidění, jeden ze základních kamenů orientace strojů v realitě, je dostupné i jednotlivcům. Subsystém nakrmený obrázkem z kamery vyplivne seznam objektů, které rozezná, a k nim seznam jejich pozic na snímku. Data jsou ale jen tak dobrá, jak dobrá je trénovací množina – model, co v životě viděl jenom kočky, bude za kočku považovat i tank. Jakou množinou model dotrénujeme a na co výsledky použijeme, je už na nás: může to být sčítání typů aut na úseku silnice, ježků v přírodě, rozpoznání tanku nebo pěšáka plížícího se lesem.
Filosofové lamentující nad strojovým zabíjením během poslední dekády přišli o argumenty ohledně spolehlivosti algoritmů. Ty už se často vyrovnají nejlepšímu masu – ale bez únavy, stresu nebo vzteku nad včerejší ztrátou poloviny jednotky. Teď zbývá už jen „etika“, a ta střet s realitou nevydrží. Nebude-li zbraňová AI ve standardní výzbroji, krátce po vypuknutí konfliktu se stejně objeví – i kdyby si ji měli pěšci nechat spíchnout v hackerspaceu. Munice se z githubu stáhnout nedá, ale software pro optimalizaci jejího doručení ano.
Jaký kyberpunk si uděláme, takový budeme mít.
Autor je hacker.