Upozornění pro čtenáře a uživatele této knihy
Všechna práva vyhrazena. Žádná část této tištěné či elektronické knihy nesmí být reprodukována ani šířena v papírové, elektronické či jiné podobě bez předchozího písemného souhlasu nakladatele. Neoprávněné užití této knihy bude trestně stíháno.
Automatizovaná analýza textů nebo dat ve smyslu čl. 4 směrnice 2019/790/EU a použití této knihy k trénování AI jsou bez souhlasu nositele práv zakázány.

Dalibor Vavruška

Život v době robotů
Jak udržet vládu nad AI a zachovat svět pro lidi

Vydala Grada Publishing, a.s.
U Průhonu 22, 170 00 Praha 7
tel.: +420 234 264 401
www.grada.cz
jako svou 9700. publikaci

Odborná spolupráce a revize textu Marek Miler
Odpovědný redaktor Mgr. Marie Zelinová
Odborná konzultace Pavla Prokopová
Grafická úprava a sazba Eva Hradiláková
Návrh a zpracování obálky Vojtěch Wagner
Ilustrace Jindřich Janíček
Počet stran 200
První vydání, Praha 2024
Tisk Iva Vodáková – Durabo

© Grada Publishing, a.s., 2024

Názvy produktů, firem apod. použité v knize mohou být ochrannými známkami nebo registrovanými ochrannými známkami příslušných vlastníků.

ISBN 978-80-271-7503-1 (ePub)
ISBN 978-80-271-7502-4 (pdf)
ISBN 978-80-271-5227-8 (print)

Tato kniha je věnována odkazu bratří Čapků –
humanistů a vizionářů, kteří přinesli světu slovo „robot“.

Poděkování

Rádi bychom poděkovali následujícím firmám, které přispěly ke vzniku této knihy.

Investiční skupině Thein a jejímu zakladateli, technologickému vizionáři Tomáši Budníkovi. Thein investuje do budoucnosti díky spojování průmyslu s digitálními technologiemi, včetně AI.

Skupině VEON ve spolupráci s ukrajinskou dceřinou společností Kyivstar a místními zaměstnanci, kteří se dnem i nocí starají o zajištění základních služeb pro obyvatele Ukrajiny.

O autorovi

Dalibor Vavruška

Vystudovaný matematik a MBA Dalibor Vavruška dvacet pět let působil jako investiční analytik a stratég v předních světových finančních institucích včetně Citigroup, ING a Credit Suisse. Vedl mezinárodní týmy zaměřené na investiční výzkum v oblasti telekomunikací a digitálních technologií. Je držitelem mnoha prestižních mezinárodních ocenění za svou investičně analytickou a poradenskou činnost, například od časopisu Institutional Investor nebo agentury Thomson Reuters.

Jako analytik stál u řady veřejných nabídek akcií zejména telekomunikačních společností v Evropě, Asii a Africe. Podílel se také na tvorbě komerčních strategií a evropské legislativy v oblasti telekomunikací, digitálních trhů a umělé inteligence. V poslední době se zabývá poradenskou a výzkumnou činností, například v oblastech digitálních strategií, umělé inteligence, datové regulace a suverenity. Spolupracuje také s oxfordským think tankem Regulatory Policy Institute.

Předpověděl řadu významných globálních změn trendů v telekomunikacích a digitálních technologiích, včetně velkých korekcí akciových trhů v letech 2000 a 2008, nebo investičních příležitostí v mobilních komunikacích. Byl také jedním z průkopníků myšlenky oddělení telekomunikační infrastruktury, kterou mezi prvními na světě realizoval operátor O2 v České republice. Později byla tato myšlenka s jeho pomocí zapracována i do evropské legislativy a praxe.

Odborná spolupráce a revize textu

Marek Miler

Je ekonomický novinář, který působí od roku 2015 v Hospodářských novinách. Zaměřuje se na technologie, telekomunikace a kapitálový trh. V HN publikoval řadu rozhovorů s lídry technologického světa, například se Satyou Nadellou, CEO Microsoftu, Vittoriem Colaem, někdejším šéfem skupiny Vodafone, či šéfem největší evropské IT skupiny SAP Christianem Kleinem. Před příchodem do HN dva roky vedl Rádio ZET, multimediální projekt francouzské skupiny Lagardere. V letech 1997–2008 pracoval v pražské pobočce americké tiskové agentury Bloomberg News.

Ohlasy

„Důležitá kniha k úvahám o dnešní době. Lidstvo by mělo oslavovat lidský mozek coby nádherný dar, ale zároveň potřebuje zdokonalovat nástroje jako je umělá inteligence. Rizika pro naši lidskost plynoucí z transhumanismu a přílišného spoléhání se na strojovou inteligenci jsou obrovská. Život v době robotů skvěle popisuje protichůdné strany této debaty a zároveň se zaměřuje na způsoby, jak podpořit lidství. Povinná četba pro přemýšlivého moderního člověka.“

Ryan Carrier, zakladatel a výkonný ředitel ForHumanity, světové organizace zabývající se etikou v AI se sídlem v New Yorku

„Dalibor v této knize čtenářům přibližuje jeden z nejzásadnějších problémů současnosti. Využívá přitom svých rozsáhlých technologických i ekonomických zkušeností a analytických schopností, které spojuje s upřímnou zvídavostí a láskou k humanitě.“

Dr. Nikolaos Laoutaris, profesor a vedoucí výzkumného týmu pro transparentnost dat, IMDEA Networks Institute v Madridu

„Dalibor Vavruška je jedním z nejoriginálnějších finančních analytiků této generace. Jeho kniha Život v době robotů překračuje rámec dnešních někdy fádních debat o umělé inteligenci. Pracuje s fikcí i filozofickým přístupem, aby upozornil na řadu zásadních politických, ekonomických, environmentálních, zdravotních a sociálních otázek, jimž čelíme a budeme čelit v nadcházejících letech. Kniha formuluje konkrétní kroky, které nás mají vést směrem k budoucnosti zaměřené na člověka.“

Eric Auchard, nezávislý novinář, bývalý globální technologický korespondent agentury Reuters v Londýně

Předmluva od Augieho K. Fabely II

Fráze „data jsou novou ropou“ se stala jedním ze symbolů současné ekonomické transformace. Již před pandemií covidu propojovaly chytré telefony a sociální sítě více než polovinu lidí na celém světě. Od té doby se objem odesílaných a přijímaných dat každé dva až tři roky zdvojnásobuje. Bankovnictví, obchod, zábava, vzdělání, zdravotní péče, ale i mnoho dalších služeb se ve stále větší míře přesouvá do digitální podoby. Sociální média umožňují spotřebitelům najít rychlejší, chytřejší, levnější a flexibilnější způsob, jak uspokojit své potřeby. Tento jev jsem ve své knize The Impatience Economy nazval „ekonomikou nedočkavosti“. Nejenže můžeme nakupovat, kdykoli si zamaneme, ale také můžeme získat, cokoli právě chceme. Hned, bez nejmenší prodlevy.

Rychlost těchto změn však může ohrozit všeobecně uznávané svobody jednotlivců. Proto jsem před několika lety navrhl „Listinu základních digitálních práv“, která začíná slovy: „My, lidé žijící na této planetě, máme nezcizitelné právo na digitální projev, soukromí, vlastnictví naší digitální identity a právo rozhodovat o tom, kdy, kde a jak budeme konzumovat, cokoli si vybereme na své cestě za pohodlím, námi zvoleným životním stylem, klidem mysli a svobodou.“

V posledních letech se tempo digitálního pokroku ještě více zrychlilo. Klíčovou roli v tom sehrály velké jazykové modely umělé inteligence jako například ChatGPT. Ekonomika nedočkavosti se stává realitou. Celosvětová shoda na zmíněných digitálních právech člověka je však naopak v nedohlednu. Ekonomická debata se navíc začíná posouvat od „data jsou novou ropou“, tedy komoditou, která nabídne jednotlivcům nové příležitosti, k „roboti jsou novými lidmi“, kdy stroje mají vytvořit hojnost a lidé dostávat univerzální příjem bez nutnosti práce.

Dnes již tak nejde jen o volbu mezi digitálním a analogovým světem. Jde především o to, co vlastně znamená „být člověkem“, jaký má náš život smysl a jak hluboko mají monopolní síly (státy či umělá inteligence) zasahovat do života jednotlivců. Dalibor k těmto zásadním otázkám přistupuje poutavě a zároveň vybízí k hlubšímu zamyšlení – jak s pomocí fikce, tak i detailního teoretického výkladu. Jeho principy pro AI 4P přinášejí inspiraci, jakým způsobem se vyhnout dehumanizujícím technologiím, aniž abychom potlačili pokrok. Ten totiž potřebujeme pro neustálé zlepšování života všech lidí.

Augie K. Fabela II je americký podnikatel, autor bestselleru The Impatience Economy, zakládající člen spolku předsedů představenstev (Chairmens’ Community) při Světovém ekonomickém fóru, zakladatel a předseda představenstva globálního digitálního operátora VEON (největšího zahraničního investora na Ukrajině v letech 2022–2023 podle časopisu Forbes), zakladatel a ředitel společnosti FastForward.ai. Fabela je také autorem knihy Decide: Tactical Crisis Decision Making, kde využil svoji zkušenost z práce vedoucího v úřadu šerifa v Cook County v Chicagu.

1
Tomáš, Gábina a roboti

1.1Tomáš ve světě robotů

Tomáš se probouzí do sychravého rána. Vlastně jej probouzí jeho virtuální asistentka Alexa. Hraje mu písničku, na kterou si včera náhodou vzpomněl. To, že je venku sychravo, vidí, až když Alexa rozhrne okenní závěs. Zároveň mu řekne vtip, aby jeho den nezačal jen chmurným pohledem z okna. Pak už začne pomáhat se snídaní, připomene odpolední prohlídku u zubaře a ověří, kdy se vrátí domů, aby mohla ve správný čas zapnout topení. Nově nainstalované tepelné čerpadlo poslední generace.

Po snídani Tomáš nasedá do svého elektroauta, které mezitím naplánovalo, jak se rychle, ale energeticky co nejšetrněji dostane do práce. Cestou auto předčítá zprávy, které pro Tomáše vybrala jeho sociální síť podle toho, co by ho právě mohlo zajímat.

Hned jak Tomáš dorazí do kanceláře, zkontroluje zprávy od zákazníků a kolegů. Seřazené robotem podle priorit, s doporučením, jak odpovědět. V té první ho šéf žádá o analýzu prodeje a zákaznické spokojenosti s novým výrobkem. Chce ji co nejdřív. Tomáš si všimne, že jde šéf náhodou kolem, a tak s ním prohodí pár slov. Vyjasní si, o co mu jde, a slíbí, že odpoledne bude vše hotové.

Hned se pustí do práce. Nejdřív požádá interní systém o podklady k datům o prodejích a shrnutí komunikace zákaznické podpory. Během okamžiku dostane dobře zpracovanou analytickou zprávu. Všimne si, že několik zákazníků mělo k výrobku zásadní výhrady, ale jejich výpovědi si vzájemně odporují. Tak se rozhodne, že si s některými promluví. Aby z telefonických hovorů vyzískal co nejvíc, své otázky nejdřív probere s robotem. Jeden ze zákazníků mluví cizím jazykem, ale to nevadí, o simultánní překlad je postaráno.

Tomáš rychle pochopí, co zákazníky zmátlo, a navrhne řešení. To ještě rychle probere s kolegou a pak s robotem, který nakonec pomůže zapracovat jeho nápady. Během okamžiku je na světě finální podoba zprávy. „Skvělé,“ pomyslí si. „Dřív by taková práce trvala pár dní. A potřeboval bych k tomu celý svůj tým.“ Tím týmem Tomáš myslí lidi, se kterými pracoval, než začal využívat roboty. Teď už je nepotřebuje. Za pár hodin posílá šéfovi výsledek a je hotovo.

Tomáš vůbec nelituje, že mu místo lidí pomáhají roboti. Firma rychle reaguje na situaci na trhu a prodeje rostou. Najednou překvapeně zjišťuje, že už jsou dvě hodiny, a přepadne ho hlad. Tento týden potřeboval s pár kolegy něco probrat, ale protože má málo času, neví, zda to všechno stihne. Robot mu hned najde jednoho z nich, který se také opozdil s obědem, a během okamžiku mu domluví schůzku.

Po obědě Tomáš prolítne povinný on-line kurz etiky práce s roboty. Jak dokončuje poslední otázku, Alexa mu posílá zprávu, že u zubaře se uvolnilo místo o půl hodiny dřív. Nový termín hned potvrdí a spěchá na prohlídku. I v ordinaci se nejprve setká s robotem. Ten vyhodnotí, že je čas na pravidelný rentgen, rychle pořídí trojrozměrný snímek a zahlásí, že jeden zub bude nejspíš vyžadovat zákrok. Robot ale zároveň vyhodnotí, že Tomášova imunita je oslabena po právě prodělané nemoci. Proto doporučí zákrok přesunout na pozdější termín. Vlastní prohlídka u zubaře pak proběhne rychle. Zubařův virtuální asistent se nakonec domluví s Alexou na čase další návštěvy.

Když už se Tomáš chystá domů, Alexa ho upozorní, že poslední dobou kvůli nemoci zanedbával cvičení. Jenže lék, geneticky upravený speciálně pro něj, zabral velmi rychle, takže se už cítí mnohem lépe a potřeboval by spálit nějaké kalorie. Alexa mu najde nové fitness centrum, které poblíž otevřelo celkem nedávno. Navíc zjistí, že tam zrovna nabízejí slevy, a tak ho rovnou přihlásí.

Po cvičení Tomáš zamíří domů a po cestě ještě objednává večeři, kterou mu později přiváží domů robotický rozvážeč. Pak už jen následuje večer, který se příliš neliší od večerů posledních týdnů – Tomáš hraje s kamarády virtuální hru. Na začátku se mu moc nedaří, ale když už to chce téměř vzdát, jeho skóre začne prudce růst a hra ho nadchne. Během večera se ale přece jenom stane něco nečekaného. Tomášovo zaujetí hrou naruší pípnutí zprávy od Alexy. Tomáš se na zprávu podívá, okamžitě všeho nechá a k hraní se ten večer už nevrátí.

1.2Setkání s Gábinou

Včera v baru potkal Gábinu. Šíleně se mu líbila. Dlouho si povídali a nakonec se jí zeptal, zda by s ním nezašla na večeři. Ona se jen usmála a něco zašeptala svému virtuálnímu asistentovi. Pak už ji neviděl. Teď se Gábinin virtuální asistent spojil s Alexou a ptá se na detaily jejich schůzky. Tomášovi se z toho rozbuší srdce tak hodně, že si toho všimne zdravotní asistent a posílá preventivní zprávu jeho lékaři.

Kam má Tomáš ale Gábinu pozvat? Nemůže si dovolit udělat chybu. Jak o tom přemýšlí, vzpomene si, že Alexa ráno věděla, na kterou písničku včera myslel. Co kdyby taky uměla číst Gábininy myšlenky a touhy? Rozhodl se na to Alexy zeptat. Odpověděla, že to záleží na tom, jestli Gábina dala souhlas svému virtuálnímu asistentovi taková data sdílet. Když se ukázalo, že ano, Tomášovi se rozbušilo srdce znovu. Tentokrát už natolik, že jeho zdravotní asistent začal preventivně zjišťovat kapacity záchranné služby. Alexa se hned spojuje s Gábininým asistentem a vybírá restauraci. Zvažuje přitom dopravní situaci, zdravotní omezení obou dvou, Gábininy pocity, přání a spoustu dalších věcí. Alexa pak ještě pošle Gábině krásnou virtuální kytici.

V mžiku je vše domluveno. Tedy až na jednu věc: Alexa se ještě Tomáše zeptá, jak si přeje řešit otázku digitálního konsenzu, kdyby mezi ním a Gábinou tu noc k něčemu došlo. Tomáš vypadá zaskočeně. Asi začal platit nějaký nový zákon, který toto nařizuje. Od doby, co zákony dělají roboti, jich vzniká tolik, že se to už nedá sledovat. Alexa ho ale uklidní. Její software byl právě updatován na novou verzi, a tak už umí vše zařídit diskrétně, jen mezi virtuálními asistenty. Tomášovi se uleví a návrh přijme.

1.3Tomáš na rozcestí

Další den dorazí plný napětí a očekávání na místo. Za chvíli vidí přicházet Gábinu. Moc jí to sluší. Tomáš prožívá silný nával štěstí a celý září. Najednou se ale stane něco zvláštního. Odkudsi z nitra k němu promluví tajemný hlas. „Tomáši,“ zní mu v pravém uchu, „přišla tvá chvíle. Tvůj život potřebuje úplný reset. Na nic nečekej a vzepři se! Udělej to pro ni. Pro sebe. Pro vaši společnou budoucnost. K čemu ti je, že vše získáváš stále rychleji a snáz? O život a domácnost se ti stará Alexa. Svoje spolupracovníky jsi vyhodil a nahradil je roboty. Jsi populární na sociálních sítích, kde ti spousta robotů dává lajky. Slušně vyděláváš, takže utrácíš za virtuální zážitky a zdravotní vymoženosti. Myslíš si, že jsi silný a úspěšný. Něco ti ale řeknu: nechápeš nic. I s holkou se seznamuješ pomocí robotů. Jsi trapný.“

Tomáš se vzpamatovává z prvotního šoku, ale hlas v jeho pravém uchu pokračuje: „Víš co? Zahoď mobil do kanálu. A klidně rozmlať i to nové tepelné čerpadlo, tu krabici, která ti každou noc vrčí pod oknem. Už nebudeš potřebovat, aby tě hřálo. Hodit se ti může leda tak pár ostrých úlomků jeho vrtule nebo pár drátů. Vyhoď Alexu, naposled dobij auto a odjeď co nejdál, pryč od robotů. A Gábinu vezmi s sebou. Nespěchejte. Už nebude kam spěchat. Až se baterie vybije, nech auto autem a pokračujte pěšky. Jděte přes pole, louky, až na místo, kde pramení řeka. V noci je tam úplná tma a ráno v trávě rosa. Rostou tam plody, co vás nasytí. Stromy, co vás ochrání a dají vám dřevo. Taky je tam spousta bylin, co vás budou léčit, a skutečných voňavých květin, a ty je můžeš Gábině natrhat.“

A hlas pokračoval: „Tomu místu se, Tomáši, říká ráj. Každý živý tvor je tam oddán přírodě, pro kterou byl stvořen. Zpívají v něm ptáci a rodí se tam mláďata. Všechno krásné tam začíná. I to nejkrásnější na světě, lidský život, který by v tvém umělém světě tak akorát zanikl. Najděte si nějaký úkryt, třeba opuštěnou chatrč nebo jeskyni. Rozdělej oheň. Od nynějška vás bude hřát právě ten. Ukaž Gábině, že umíš ulovit třeba divočáka, abyste se nasytili. Vodu si berte z pramene. Večer si lehněte do trávy a dívejte se na hvězdy. Žijte tam, kam patříte, užívejte si života, jaký je, milujte se.“

Hlas náhle utichne. Zkoprnělý Tomáš neví, co si má myslet. V tom se však vnitřní hlas ozve znovu. Tentokrát je ale jiný a Tomáš ho slyší v levém uchu. A zní trochu jako robot: „Ať tě ani nenapadne naslouchat zrádným Sirénám. Přemýšlej. Tví předkové po tisíce let budovali civilizaci. Jejich zvědavost, honba za pohodlím, bohatstvím a mocí nám dala technologie schopné nasytit, léčit a vzdělávat. Pracovitost a důmyslnost tvých předků vyzvedla z chudoby a bídy miliardy lidí. Včetně tebe a Gábiny. Představa, že se teď vrátíte do rajské zahrady, je směšná. Nic takového dávno není. Jsou jen národní parky a rezervace, a z nich by vás beztak někdo vyhodil. A kdybys to vše Gábině řekl, bude tě mít za blázna a uteče. A i kdyby neutekla, takový život by nechtěla. Měli byste hlad, třásli byste se zimou. Pokud by tě nezabil ten divočák, až ho budeš lovit oštěpem vyrobeným z těch doma narychlo posbíraných krámů, nejspíš by vás skolila nějaká nemoc. To by sis opravdu přál?“

Tomášovi je jasné, že ublížit své osudové lásce nechce. Chápe, že ji nemůže jen tak vytrhnout z civilizace a prchnout s ní do pustiny, kde by měli jeden druhého jen pro sebe. Možná takové místo už ani není. A i kdyby jich pár ještě někde zbylo, lidé je nemohou jen tak zabrat. Zničili by je. Přesto Tomáš nemůže zapomenout na hlas z pravého ucha. Připadá mu, že to, co slyšel, nebyla jen snůška pošetilostí, že to bylo něco velmi důležitého. Ale co?

Tomáš přemítá: „Není skutečná zamilovanost o tom, že dva lidé touží být jen spolu, bezmezně a napořád? Není opravdová láska o tom, že dva se chtějí vymanit ze všech pout, která by je mohla rozdělit? Říkat si bláznivé věci? Zbavit se všech těch virtuálních asistentů a robotů? (Vždyť by všechny ty blázniviny mohli někde nahlásit jako dezinformace!) Odjet daleko, aby nikdo neviděl, kde spolu jsou a co dělají? Aby jim nikdo nekradl čas, kdy mohou snít jen jeden o druhém?“

Tomáš si možná v tuto chvíli říká, jestli není příliš naivní. Ale co, není právě zamilovaná naivita, slepá láskyplná oddanost, tajná řeč, které nesmí porozumět žádný robot, tím, co nás dělá lidmi? Tomáš to pomalu začíná chápat. Roste v něm přesvědčení, že přece musí existovat nějaká třetí možnost – svět, ve kterém mocní roboti oddaně slouží lidem, dělají jejich život lepším, chrání jeho přirozený běh. Ale neberou nám těch pár křehkých věcí, které dělají lidi lidmi. Nepřetváří lidský druh jako takový. Naopak podmaníme si my je, budeme dál žít jako lidé, jen lepším způsobem. Staneme se Homo sapiens roboticus nebo zkráceně Sapiens roboticus.

2
Umělá inteligence alidé

2.1Klíčové otázky

Tato kniha si klade za cíl poskytnout co nejširší pohled na umělou inteligenci, fenomén označovaný zkratkou AI(artificial intelligence). Fenomén, který Sundar Pichai, výkonný ředitel společnosti Google, označil za významnější objev pro lidstvo, než bylo ovládnutí ohně či využívání elektřiny. Co ale AI je? Jednoduše řečeno, jde o„nehmotné“ informace apříkazy. AI se tak podobá příběhům. Jen není zaznamenána vknihách nebo vnašich hlavách, ale vpočítačích, různých chytrých zařízeních avsítích znich vytvořených. Stejně jako příběhy ovlivňuje lidi aprostřednictvím lidí zasahuje do okolního světa. Už třeba tím, že na některé věci upozorní ajiné spíš skryje. Získává tím ohromnou možnost ovlivňovat, co si lidé koupí nebo komu dají hlas ve volbách. Taky nás může zahlcovat informacemi, takže spoustu věcí, které bychom si jinak uvědomili, jednoduše přehlédneme. Dříve, než si toho kdo všimne, se tak AI stane mocnou silou. Avůbec ktomu nepotřebuje armádu robotů anad nimi se vznášejících dronů.

AI má mnoho podob. Jako autopilot plní přání řidiče za volantem, jako program pro kontrolu výroby, dopravy nebo bezpečnosti zase plní přání provozních manažerů, úředníků či plánovačů. Může se stát inebezpečnou zbraní. Kdyby se vymkla kontrole, mohla by začít sledovat isvé vlastní zájmy acíle. Amy bychom si toho na počátku ani nemuseli všimnout.

Toto všechno si budou lidé čím dál víc uvědomovat. Už dnes je AI rozděluje do dvou táborů. Jedni vní vidí skvělou budoucnost, řešení velkých problémů lidstva, včetně hladu, nemocí aboje se změnami klimatu. Je pro ně cestou kvývojově vyspělejší civilizaci. Chtějí, abychom se vzájmu pokroku přizpůsobili: vše podstatné bychom měli řídit pomocí mobilních aplikací, digitálních systémů, platit bychom měli digitálními penězi. Je to tak pohodlnější, efektivnější, takže by nás to také mělo učinit šťastnějšími.

Druzí vidí AI spíš jako fatální hrozbu, která nás připraví opráci isoukromí, bude si pohrávat snaším myšlením avytrhne nás zreálného světa. Lidé budou vdůsledku toho zažívat ohromné trauma. Společnost se navíc stane na AI závislou. Bude pak stačit jeden obrovský výpadek proudu, kyberútok či sluneční bouře, které naši civilizaci ochromí azpůsobí velkou tragédii.

Autor této knihy se domnívá (stejně jako Tomáš zpříběhu sGábinou), že by společnost neměla směřovat kodlidštěné technokracii, založené na neustálém honu za pohodlím apožitky, kzbožštění technologií aslepé víře vjejich schopnost zachránit svět. Nelze se ovšem upínat ani kutopii přírodního či výlučně spirituálního života, která slepě odmítá rozumný technologický pokrok. Zejména tam, kde pokrok společnost potřebuje pro své fungování arozvoj.

Tato kniha ukazuje různá úskalí vstupu AI do našeho života formou fiktivního rozhovoru. Zároveň navrhuje principy pro soužití člověka srozvíjející se AI (tedy naší přeměny vSapiens roboticus), které nazývá AI pro lidi neboli AI 4P (AI for people). Zabývá se přitom řadou zásadních otázek. Jsou to například tyto:

1.Máme chtít, aby nám AI pomohla si ještě víc podmanit přírodu? Bylo by to vůbec rozumné, když dnes vidíme, jak na přírodu dopadá naše dosavadní působení?

2.Má AI masově zasahovat do přirozené evoluce? Opravdu chceme předělávat proces, který vytvořil nejen nás, ale icelou živou přírodu?

3.Stane se „vševědoucí“ AI novou modlou opřenou onedostižně hluboké poznání adigitální cloud novým „nebem“?

4.Zpochybní AI některé pravdy uznávané současnou vědou, aniž by přinesla nový ucelený pohled na svět? Nedala by tím mnohým lidem důvod navrátit se ke spiritualitě?

5.Jak se postavíme krobotům, kteří se začnou chovat, jako kdyby byli vědomými bytostmi? Mohou lidé vedle takových strojů vůbec žít?

6.Měli bychom AI dovolit bez omezení vylepšovat lidskou mysl aumožnit implantovaným přístrojům zasahovat do fungování našich těl?

7.Jak změní AI naši kulturu, včetně chápání pojmů dobra, zla alidské svobody?

8.Měli bychom se bát hrozby „zlých“ robotů?

9.Anebo bychom se měli bát spíš těch „dobrých“, že nás zahrnou hojností anáš život pak ztratí smysl?

10.Kdyby AI všem přinesla hojnost, rovnost aživot bez utrpení, měla by pak ještě smysl lidská láska, oddanost aodpovědnost?

11.Lze vůbec vybudovat ekonomiku, ve které budou lidé inadále hrát prim, aAI přitom bude každému oddaně sloužit?

12.Máme vnímat dnešní AI jako začátek dlouhodobé prosperity, nebo naopak zkázy?

Tato kniha se snaží svá řešení formulovat jako praktická azároveň lidská. Mohla by to být právě ta třetí cesta, oníž uvažuje Tomáš – lidé budují AI pro sebe, tak aby posilovala každého znich, aby všem otevírala nové možnosti. Nejde však oAI sambicí od základů předělávat svět alidi způsoby, které dřív nebyly možné. Naopak – nová technologie musí respektovat přirozenou evoluci všech živých bytostí, různost kultury avíry, smysl práce, ale ikřehkost lidské duše alásky. Musí zachovat po tisíce let budovanou civilizaci, ve které dominuje člověk. Ten, který má jako jediný práva, odpovědnost akontrolu nad nastavováním aplněním společenských cílů.

Pro to, aby takové pravomoci byly lidem ponechány, existují pádné důvody. Ani zvěcí, které jsou pro AI vprincipu řešitelné, nebudou jednotlivé stroje asystémy vžádném okamžiku schopné pochopit avyřešit vše. Jako lidé si už po tisíciletí vysvětlujeme nepoznané anepoznatelné vírami. Na nich jsme vybudovali kultury, které nám zatím pomáhaly přežít. Ikdybychom si teď mysleli, že AI nabídne lepší řešení, zcela založené na znalostech, jedno je jisté. Na rozdíl od našeho těla, mozku adosavadních společenských kultur takové řešení není ajen tak nebude ozkoušené evolucí. Bylo by tedy pošetilé si od AI nechat vsugerovávat věci, jimž nerozumíme, abrát je jako dogmata, nebo dokonce nová náboženství. Tato kniha proto ukazuje, jak AI rozvíjet při zachování kultury amyšlení, vjejichž středu je člověk. AI se nesmí stát spasitelem, ale spíš sluhou.

2.2Pokoří AI lidské myšlení?

Zmíněným otázkám se budeme věnovat později. Je tu ale ještě jedna, která napadá snad každého, komu leží na srdci dopady umělé inteligence na společnost. Položme ji tedy hned apřímo: Pokoří AI lidské myšlení, stane se inteligentnější než my, avezme nám tak možnost omnohém rozhodovat? Vezme nám díky svým schopnostem práci také vorganizačních, kreativních avýzkumných oblastech? Nebo dokonce přinese konec lidské dominance na Zemi?

Již dnes AI myslí atvoří vmnoha ohledech lépe než člověk. To není spekulace, ale fakt. Nedá se tedy vyloučit, že na jejím základě jednou vznikne zásadně vyšší forma inteligence, než je ta naše. Lidem by pak nezbylo než sní splynout, iza cenu drastických změn vživotě avchápání svobody. Například bychom ji nechali nepřetržitě sledovat avyhodnocovat život každého jednotlivce, vmnoha ohledech jej ovlivňovat či řídit, nebo dokonce stanovovat kolektivní cíle. Na oplátku bychom využívali její podporu včemkoli, čím se zabýváme. Skloubením člověka aAI by nakonec mohli vzniknout inadlidé, kyborgové. Nezasvěcení by je dokonce mohli mít za jakési bohy či mimozemšťany. Fakticky by tak ale vznikla nová civilizace. Co by se pak stalo sostatními lidmi, lze jen stěží domýšlet.

2.3Dvě mozkové hemisféry

Vkapitole 8 (ataké vdalších částech této knihy) ukážeme, že lidstvo má ještě jednu mnohem optimističtější možnost: Podřídit AI sobě, svým přirozeným evolučním zájmům.

Začněme ale od začátku. Po stovkách tisíc let, kdy na naší planetě výrazně dominoval druh Homo sapiens, se najednou objevuje myšlení strojové. Spontánně. Virtuální asistentku Siri ani chatovacího robota ChatGPT nikdo nikomu nevnucoval. Přišli alidé je začali používat sami, aniž by je někdo pobízel. Ze zvědavosti, zpohodlí, ze ziskuchtivosti iznadšení. Dnes AI zavádějí firmy istátní úřady, protože tím chtějí něco zlepšit, zefektivnit nebo zlevnit. Všichni přitom doufáme, že tato technologie nám pomůže řešit zejména praktické problémy. Jsme přesvědčeni, že neustálým zlepšováním jednotlivostí jako společnost nakonec dojdeme kobecnému blahu ahojnosti. Říkáme tomu pokrok avěříme, že na takovém vylepšování stojí icelá evoluce. Avěříme, že AI vše urychlí.

Jenže, co když je to celé trochu jinak? Co když se mýlíme? Co když, stejně jako při stavbě Babylonské věže, přidáváme jeden dílek kdruhému, kvůli efektivitě ve všem hledáme společnou řeč, akdyž už si myslíme, že máme cíl na dosah, dílo se zhroutí amy zůstaneme rozděleni aoslabeni? Co když pouhým skládáním jednotlivých dílků podle racionálně navržených šablon se kúspěchu prostě dobrat nedá? Co když vevoluci nejde jen oefektivitu, ale také oněco jiného, co nám příroda vtiskla do genů aco my dnes lehkovážně přezíráme?

Vnímání pacientů spoškozenou levou či pravou mozkovou hemisférou

2.4Tlak nemyslet holisticky

2.5Svět se bez náhody (zatím) vysvětlit nedá

2.6AI náhodu nepřemůže

2.7AI jako dobrý sluha, ale ne pán