Yuval Noah Harari

Nexus

Stručná história informačných sietí
od doby kamennej po umelú inteligenciu

Elektronická kniha

Dielo je autorsky chránené. Všetky práva, najmä rozmnožovať a rozširovať, rovnako ako právo prekladu, sú vyhradené. Žiadna časť tohto diela sa nesmie bez písomného súhlasu majiteľa autorských práv reprodukovať, spracovávať, rozmnožovať alebo rozširovať vo forme fotokópií, mikrofilmov a ani inými metódami použitia elektronických systémov ukladania do pamäte.

Yuval Noah Harari: Nexus: Stručná história informačných sietí

od doby kamennej po umelú inteligenciu

Z anglického originálu Nexus: A Brief History of Information Networks from the Stone Age to AI,

ktorý vydalo vydavateľstvo Random House, a division of Penguin Random House LLC, New York, USA.

Copyright © 2024 by Yuval Noah Harari

All rights reserved.

Všetky práva vyhradené.

Jacket © Hector the carrier pigeon of Emperor Napoleon III,

reproduced by courtesy of Tallandier/Bridgeman Images

Design © Suzanne Dean

Translation © Zuzana Jánska 2025

Redakčne upravila: Magdaléna Borovcová

Sadzba a zalomenie: Samuel Ryba – Design Ryba

Tlač: FINIDR, s.r.o., Český Těšín, Česká republika

Vydal AKTUELL vydavateľstvo, s.r.o., Bratislava, Slovenská republika

Slovak edition © AKTUELL 2025

ISBN 978-80-89873-73-9

Vytvorenie elektronickej verzie Dibuk, s. r. o., 2025

Venujem Itzikovi a všetkým, ktorí majú radi múdrosť.

Na ceste tisícov snov sa snažíme nájsť realitu.

PROLÓG

Svoj druh sme pomenovali Homo sapiens – človek rozumný. Nakoľko si však toto pomenovanie zaslúžime?

Niet pochýb, že za posledných 100 000 rokov sme nahromadili obrovskú moc. Už len vymenovanie našich objavov, vynálezov a výdobytkov by zaplnilo celé zväzky kníh. Lenže moc neznamená múdrosť a po 100 000 rokoch objavov, vynálezov a výdobytkov sa ľudstvo dostalo do existenčnej krízy. Sme na pokraji ekologického kolapsu, ku ktorému sme dospeli zneužívaním vlastnej moci. Vytvárame tiež nové technológie, ako je umelá inteligencia (AI), ktoré sa môžu potenciálne vymknúť spod našej kontroly a zotročiť nás alebo dokonca zničiť. No namiesto toho, aby sme sa ako druh pri riešení týchto existenčných výziev zjednotili, medzinárodné napätie rastie, globálna spolupráca je čoraz ťažšia, krajiny sa zásobujú ničivými zbraňami a zdá sa, že nová svetová vojna vôbec nie je vylúčená.

Ak sme ako druh takí rozumní, prečo podliehame takémuto sebazničeniu?

Hoci sme nazhromaždili toľko informácií o všetkom možnom, od molekúl DNA až po vzdialené galaxie, ak sa na to pozrieme bližšie, nezdá sa, že by sme v tej hromade informácií našli odpovede na veľké otázky života: Kto sme? O čo by sme sa mali snažiť? Čo je to dobrý život a ako by sme ho mali žiť? Napriek neskutočnému množstvu informácií, ktoré máme k dispozícii, sme náchylní veriť fantáziám a bludom rovnako ako naši starovekí predkovia. Nacizmus a stalinizmus sú len dva nedávne príklady masového šialenstva, aké občas zachváti aj moderné spoločnosti. Nikto nespochybňuje, že ľudia majú dnes oveľa viac informácií a moci ako v dobe kamennej, ale vôbec nie je isté, že lepšie rozumieme sami sebe a svojej úlohe vo vesmíre.

Prečo sa nám tak darí hromadiť informácie aj moc, ale oveľa menej dosiahnuť múdrosť? V dávnej histórii mnohé tradície naznačovali, že nejaká osudová chyba v našej prirodzenosti nás núti získavať moc, ktorú potom nevieme zvládať. Grécky mýtus o Faethónovi rozpráva príbeh chlapca, ktorý zistí, že je synom Hélia, boha slnka. V snahe preukázať svoj božský pôvod požaduje Faethón privilégium riadiť slnečný voz. Hélios Faethóna varuje, že žiadny človek nemôže ovládať nebeské kone, ktoré slnečný voz ťahajú. Ten však na tom trvá, kým boh slnka neustúpi. Keď sa Faethón hrdo vznesie na oblohu, skutočne stratí nad vozom kontrolu. Slnko sa vychýli z kurzu, spáli všetko rastlinstvo, zabije množstvo bytostí a hrozí, že spáli aj samotnú Zem. Vtedy zasiahne Zeus a trafí Faethóna bleskom. Arogantný človek spadne v plameňoch z oblohy ako padajúca hviezda. Bohovia znovu získajú kontrolu nad oblohou a svet zachránia.

O dve tisícročia neskôr, keď sa rozbiehala priemyselná revolúcia a stroje začínali v mnohom nahrádzať ľudí, publikoval Johann Wolfgang von Goethe podobný poučný príbeh s názvom Čarodejníkov učeň. Goetheho báseň (neskôr spopularizovaná ako animovaný film Walta Disneyho v hlavnej úlohe s Mickey Mousom) rozpráva o tom, ako starý čarodejník prenechá mladému učňovi vedenie dielne. Zverí mu niekoľko prác, ktoré má počas jeho neprítomnosti vykonávať, napríklad nosiť vodu z rieky. Učeň sa rozhodne, že si prácu uľahčí a pomocou čarodejníkových kúziel začaruje metlu, aby nosila vodu zaňho. Lenže učeň nevie, ako metlu zastaviť, takže metla neprestajne naberá vodu a hrozí, že dielňu zaplaví. Učeň v panike sekerou presekne metlu na dve časti, ale zistí, že z každej polovice sa stane nová metla. Teraz dielňu zaplavujú vodou dve začarované metly. Keď sa čarodejník vráti, učeň prosí o pomoc: „Duchov, ktorých som vyvolal, sa už nezbavím.“ Čarodejník okamžite zruší kúzlo a potopu zastaví. Poučenie pre učňa – aj pre ľudstvo – je jasné: nikdy neprivolávajte sily, ktoré nedokážete ovládať.

Čo nám tieto príbehy o učňovi a Faethónovi hovoria v dvadsiatom prvom storočí? Zjavne sme ich varovania odmietli počúvať. Už sme narušili rovnováhu zemskej klímy a vyvolali miliardy začarovaných metiel, dronov, chatbotov a iných algoritmických duchov, ktoré sa nám môžu vymknúť spod kontroly a vyvolať záplavu nechcených dôsledkov.

Čo máme teda robiť? Príbehy neponúkajú žiadne odpovede, okrem čakania na nejakého boha alebo čarodejníka, ktorý by nás zachránil. To je, samozrejme, nesmierne nebezpečný odkaz. Povzbudzuje ľudí, aby sa vzdali zodpovednosti a namiesto toho vložili svoju vieru do bohov a čarodejníkov. A čo je ešte horšie, neberie do úvahy fakt, že aj samotní bohovia a čarodejníci sú ľudským výmyslom – presne tak ako vozy, metly a algoritmy. Zámer vytvárať mocné veci s nechcenými dôsledkami sa nezačal vynálezom parného stroja či umelej inteligencie, ale vynálezom náboženstva. Proroci a teológovia vyvolávali mocných duchov, ktorí mali prinášať lásku a radosť, ale z času na čas to skončilo tak, že zaplavili svet krvou.

Mýtus o Faethónovi a Goetheho báseň neprinášajú užitočnú radu, pretože nesprávne pochopili spôsob, akým ľudia získavajú moc. V oboch príbehoch získa jednotlivec obrovskú moc, ale potom ho pokazí pýcha a chamtivosť. Záver z nich znie, že moc zneužívame kvôli svojej skazenej individuálnej psychológii. Táto surová analýza však opomína, že ľudská moc nikdy nie je výsledkom individuálnej iniciatívy. Moc vždy vzniká spoluprácou početnej skupiny ľudí.

Znamená to teda, že nie naša individuálna psychológia spôsobuje zneužívanie. Napokon, popri chamtivosti, pýche a krutosti sú ľudia schopní aj lásky, súcitu, pokory a radosti. Je pravda, že medzi najhoršími príslušníkmi nášho druhu vládne chamtivosť a krutosť, ktoré zlých jednotlivcov vedú k zneužívaniu moci. Ale prečo ľudské spoločnosti zverujú moc svojim najhorším predstaviteľom? Väčšina Nemcov v roku 1933 predsa neboli psychopati. Tak prečo volili Hitlera?

Naša tendencia privolávať sily, ktoré nedokážeme ovládať, nevyplýva z individuálnej psychológie, ale z jedinečného spôsobu, akým náš druh spolupracuje vo veľkom počte. Hlavným argumentom tejto knihy je, že ľudstvo získava obrovskú moc budovaním veľkých sietí spolupráce, lenže spôsob, akým sú tieto siete vybudované, ich predurčuje k nerozumnému využívaniu moci. Náš problém je teda problémom siete.

Alebo konkrétnejšie, problémom informácií. Informácie sú lepidlom, ktoré držia siete pohromade. Sapiens však po desaťtisíce rokov budoval a udržiaval veľké siete vymýšľaním a šírením výmyslov, fantázií a masových bludov – o bohoch, o začarovaných metlách, o umelej inteligencii a o mnohých ďalších veciach. Zatiaľ čo každý jednotlivec obvykle chce poznať pravdu o sebe a o svete, veľké siete spájajú svojich členov a vytvárajú poriadok spoliehaním sa na fikcie a fantázie. Tak sme sa napríklad dostali k nacizmu a stalinizmu. Išlo o dve mimoriadne mocné siete, ktoré držali pohromade výnimočne klamlivé myšlienky. Ako povedal George Orwell, nevedomosť je sila.

Skutočnosť, že nacistický a stalinský režim boli postavené na krutých fantáziách a nehanebných klamstvách, z nich nerobila historicky výnimočné režimy, ani ich nepredurčovala k pádu. Nacizmus a stalinizmus patria medzi najsilnejšie siete, aké ľudia kedy vytvorili. Na prelome rokov 1941 a 1942 sa mocnosti Osi priblížili k víťazstvu v druhej svetovej vojne. Stalin napokon vyšiel z tejto vojny ako víťaz1 a v päťdesiatych a šesťdesiatych rokoch 20. storočia mal so svojimi nasledovníkmi dobrú šancu vyhrať aj studenú vojnu. V deväťdesiatych rokoch 20. storočia získali prevahu liberálne demokracie, ale aktuálne sa zdá, že išlo len o dočasné víťazstvo. V 21. storočí môže nejaký nový totalitný režim uspieť tam, kde Hitler a Stalin zlyhali, a vytvoriť všemocnú sieť, ktorá by mohla zabrániť budúcim generáciám, aby sa čo i len pokúsili odhaliť jeho lži a fikcie. Nemali by sme predpokladať, že klamlivé siete sú automaticky predurčené na zlyhanie. Ak im chceme zabrániť v triumfe, musíme sa na tom podieľať.

Naivný pohľad na informácie

Je náročné uvedomiť si moc klamlivých sietí, pretože v podstate nechápeme, ako vlastne veľké informačné siete fungujú – či už sú klamlivé, alebo nie. Toto nepochopenie sa dá zhrnúť pojmom, ktorý nazývam „naivný pohľad na informácie“. Kým bájky ako mýtus o Faethónovi a Čarodejníkov učeň predstavujú príliš pesimistický pohľad na individuálnu ľudskú psychológiu, naivný pohľad na informácie presadzuje prehnane optimistický pohľad na rozsiahle ľudské siete.

Naivný pohľad tvrdí, že keď veľké siete zhromažďujú a spracúvajú oveľa viac informácií, ako by dokázali jednotlivci, dosahujú lepšie pochopenie medicíny, fyziky, ekonomiky a mnohých ďalších oblastí, takže siete sú nielen mocné, ale aj múdre. Ak, napríklad, budú farmaceutické spoločnosti a zdravotnícke služby zhromažďovať informácie o patogénoch, môžu nájsť skutočné príčiny mnohých chorôb, čo im umožní vyvíjať účinnejšie lieky a robiť múdrejšie rozhodnutia o ich používaní. Podľa tohto názoru informácie v dostatočnom množstve vedú k pravde a pravda zasa k moci a múdrosti. Naopak, nevedomosť podľa všetkého nevedie nikam. Hoci sa v okamihoch historickej krízy môžu príležitostne objaviť klamlivé alebo podvodné siete, z dlhodobého hľadiska určite prehrajú s predvídavejšími a čestnejšími súpermi. Zdravotníctvo, ktoré ignoruje informácie o patogénoch, alebo farmaceutický gigant, ktorý zámerne šíri dezinformácie, nakoniec prehrá s konkurentmi, ktorí využívajú informácie rozumnejšie. Z naivného pohľadu teda vyplýva, že klamlivé siete musia byť len anomálie a veľkým sieťam sa obvykle dá veriť, že budú s mocou zaobchádzať rozumne.

Samozrejme, naivný pohľad pripúšťa, že na ceste od informácie k pravde sa toho zvykne mnoho pokaziť. Pri zhromažďovaní a spracovaní informácií môže dôjsť aj k čestným chybám. Zlomyseľní aktéri motivovaní chamtivosťou alebo nenávisťou nám zataja dôležité fakty, alebo sa nás snažia oklamať. Výsledkom potom je, že informácie niekedy vedú k chybe namiesto pravdy. Neúplná informácia, chybná analýza alebo dezinformačná kampaň môže aj odborníkov priviesť k nesprávnemu identifikovaniu skutočnej príčiny konkrétnej choroby.

Podľa naivného pohľadu sa však väčšina problémov, s ktorými sa stretávame pri zhromažďovaní a spracúvaní informácií, dá vyriešiť zhromažďovaním a spracúvaním ešte väčšieho množstva informácií. Hoci niekedy sa nedá úplne zabrániť chybám, vo väčšine prípadov znamená viac informácií väčšiu presnosť. Jediný lekár, ktorý chce odhaliť príčinu epidémie vyšetrením jediného pacienta, má menšiu šancu na úspech oproti tisíckam lekárov, ktorí zbierajú údaje od miliónov pacientov. A ak samotní lekári konšpirujú, aby zatajili pravdu, podvod sa nakoniec odhalí, ak sprístupníme lekárske informácie verejnosti a investigatívnym novinárom. Tento pohľad tvrdí, že čím väčšia informačná sieť, tým bližšie musí byť k pravde.

Samozrejme, aj keď presne analyzujeme informácie a objavíme dôležité pravdy, nezaručuje to, že získané schopnosti využijeme múdro. Múdrosť obvykle chápeme ako schopnosť „robiť správne rozhodnutia“. Lenže čo znamená „správne“, závisí od hodnotových úsudkov. A tie sa môžu medzi rôznymi ľuďmi, kultúrami či ideológiami líšiť. Vedci, ktorí objavia nový patogén, vyvinú vakcínu, aby ochránili ľudí. Lenže ak vedci – prípadne ich politickí vládcovia – veria v rasistickú ideológiu, podľa ktorej sú niektoré rasy menejcenné a mali by sa vyhubiť, nové medicínske poznatky sa môžu využiť na vývoj biologickej zbrane, ktorá zabije milióny ľudí.

Aj v tomto prípade naivný pohľad tvrdí, že dodatočné informácie ponúkajú aspoň čiastočnú nápravu. Naivný pohľad si myslí, že pri bližšom preskúmaní vieme nezhody v hodnotách pripísať buď nedostatku informácií, alebo zámernému zavádzaniu. Podľa tohto pohľadu sú rasisti zle informovaní ľudia, ktorí len nepoznajú fakty z biológie a histórie. Myslia si, že „rasa“ je právoplatná biologická kategória a podľahli vymývaniu mozgov falošných konšpiračných teórií. Liekom na rasizmus je preto poskytnúť ľuďom viac biologických a historických faktov. Možno to bude chvíľu trvať, ale na voľnom trhu s informáciami skôr či neskôr pravda prevládne.

Naivný pohľad je, samozrejme, diferencovanejší a premyslenejší, než sa dá vysvetliť v niekoľkých odsekoch, ale jeho základným princípom je, že informácie sú v jadre dobrá vec a čím viac ich máme, tým lepšie. Ak máme dostatok informácií a času, musíme predsa objaviť pravdu o všetkom, od vírusových infekcií až po rasistické predsudky, a tým rozvíjame nielen svoju silu, ale aj múdrosť potrebnú na jej správne využitie.

Tento naivný pohľad odôvodňuje snahu o ešte výkonnejšie informačné technológie a stal sa polooficiálnou ideológiou počítačovej éry a internetu. V júni 1989, niekoľko mesiacov pred pádom berlínskeho múru a železnej opony, Ronald Reagan vyhlásil, že „Goliáša totalitnej kontroly rýchlo porazí Dávid mikročipu“ a že „najväčší z Veľkých bratov je stále bezmocnejší proti komunikačným technológiám... Informácie sú kyslíkom modernej doby... Prenikajú cez múry obohnané ostnatým drôtom. Prechádzajú cez elektrifikované hranice chránené nástražnými výbušninami. Vánok elektronických lúčov vanie cez železnú oponu, akoby to bola čipka.“2 V novembri 2009 prehovoril Barack Obama v rovnakom duchu na návšteve v Šanghaji k svojim čínskym hostiteľom: „Pevne verím v technológie a v otvorenosť, pokiaľ ide o tok informácií. Myslím si, že čím voľnejšie prúdia informácie, tým silnejšia bude spoločnosť.“3

Podnikatelia a korporácie majú často o informačných technológiách podobne ružové predstavy. Už v roku 1858 sa v úvodníku denníka The New Englander o vynáleze telegrafu písalo: „Po vytvorení takéhoto nástroja na výmenu myšlienok medzi všetkými národmi na zemi nie je možné, aby pretrvávali staré predsudky a nepriateľstvo.“4 Takmer o dve storočia a dve svetové vojny neskôr povedal Mark Zuckerberg, že cieľom Facebooku je „pomôcť ľuďom zdieľať viac, aby bol svet otvorenejší, a podporiť pochopenie medzi ľuďmi.“5

Popredný futurológ a podnikateľ Ray Kurzweil vo svojej knihe The Singularity Is Nearer z roku 2024 skúma dejiny informačných technológií a dospieva k záveru, že „v skutočnosti sa takmer každý aspekt života v dôsledku exponenciálne zlepšujúcej sa technológie postupne zlepšuje“. Pri pohľade na rozsiahlu históriu ľudstva uvádza príklady ako vynález kníhtlače a tvrdí, že informačné technológie majú vo svojej podstate tendenciu vytvárať „priaznivý kruh, ktorý zlepšuje takmer všetky aspekty ľudského blahobytu vrátane gramotnosti, vzdelania, bohatstva, hygieny, zdravia, demokratizácie a znižovania násilia“.6

Naivný pohľad na informácie je možno najvýstižnejšie zachytený vo vyhlásení o poslaní spoločnosti Google: „Usporiadať informácie z celého sveta a zabezpečiť ich univerzálnu dostupnosť a užitočnosť.“ Odpoveďou Googlu na Goetheho varovanie je, že hoci jeden učeň, ktorý ukradne tajnú knihu kúziel svojho majstra, pravdepodobne spôsobí katastrofu, ak bude mať mnoho učňov voľný prístup ku všetkým informáciám sveta, nielenže vytvoria užitočné čarovné metly, ale naučia sa s nimi aj rozumne zaobchádzať.

Google verzus Goethe

Treba zdôrazniť, že existuje mnoho prípadov, keď prístup k väčšiemu množstvu informácií skutočne umožnil ľuďom pochopiť svet lepšie a využiť svoju moc rozumnejšie. Vezmime si napríklad dramatické zníženie detskej úmrtnosti. Johann Wolfgang von Goethe bol najstarším zo siedmich súrodencov, ale oslavy siedmych narodenín sa dožil len on a jeho sestra Cornelia. Chorobám podľahli brat Hermann Jacob vo veku šesť rokov, sestra Catharina Elisabeth v štyroch rokoch, sestra Johanna Maria vo veku dvoch rokov, brat Georg Adolf vo veku osem mesiacov a piaty, bezmenný brat, sa narodil mŕtvy. Cornelia potom zomrela na ochorenie vo veku dvadsaťšesť rokov, takže Johann Wolfgang prežil ako jediný z celej rodiny.7

Goethe mal sám päť detí, z ktorých všetky – okrem najstaršieho syna Augusta – zomreli do dvoch týždňov po narodení. Najpravdepodobnejšou príčinou bola nekompatibilita krvných skupín medzi Goethem a jeho ženou Christiane, ktorá po prvom úspešnom tehotenstve viedla k tomu, že matka si vyvinula protilátky proti krvi plodu. Toto ochorenie, známe ako hemolytická choroba novorodencov, sa dnes rieši tak účinne, že úmrtnosť je menej ako 2 %. Koncom 18. storočia však spôsobovala priemernú úmrtnosť 50 % a Goetheho štyrom mladším deťom priniesla rozsudok smrti.8

Celkovo bola miera prežitia detí v Goetheho rodine – dobre situovanej nemeckej rodine z konca 18. storočia – žalostných 25 %. Len tri z dvanástich detí sa dožili dospelosti. Táto príšerná štatistika nebola ničím výnimočným. Okolo roku 1797, keď Goethe písal báseň Čarodejníkov učeň, sa podľa odhadov len okolo 50 % nemeckých detí dožilo veku pätnásť rokov9 a to isté zrejme platí aj o väčšine ostatných častí sveta.10 V roku 2020 sa dožilo svojich pätnástych narodením 95,6 %
detí na celom svete11 a v Nemecku až 99,5 %.12 Tento významný úspech by nebol možný bez zhromažďovania, analyzovania a zdieľania obrovského množstva lekárskych údajov, okrem iného aj o krvných skupinách. V tomto prípade sa naivný pohľad na informácie ukazuje ako správny.

Naivný pohľad na informácie však vidí len časť príbehu a dejiny novoveku neboli len o znižovaní detskej úmrtnosti. Za posledné generácie ľudstvo zaznamenalo najväčší nárast množstva a rýchlosti produkcie informácií. Každý smartfón obsahuje viac informácií ako staroveká Alexandrijská knižnica13 a umožňuje majiteľovi okamžite sa spojiť s miliardami iných ľudí po celom svete. Napriek tomu, že sa všetky tieto informácie šíria závratnou rýchlosťou, má ľudstvo bližšie k sebazničeniu ako kedykoľvek predtým.

Napriek tomu, alebo možno práve preto, že máme k dispozícii množstvo údajov, naďalej vypúšťame do atmosféry skleníkové plyny, znečisťujeme rieky a oceány, rúbeme lesy, ničíme celé biotopy, spôsobujeme vyhynutie nespočetných druhov a ohrozujeme ekologické základy vlastného druhu. Okrem toho vyrábame čoraz silnejšie zbrane hromadného ničenia, od termonukleárnych bômb až po vírusy skazy. Našim lídrom nechýbajú informácie o týchto nebezpečenstvách, ale namiesto toho, aby spolupracovali na hľadaní riešení, viac sa približujú ku globálnej vojne.

Keby sme mali ešte viac informácií, zlepšilo by to situáciu – alebo zhoršilo? Onedlho to zistíme. Mnohé korporácie a vlády sa pretekajú vo vývoji najmocnejšej informačnej technológie všetkých čias – umelej inteligencie. Istí poprední podnikatelia, ako napríklad americký investor Marc Andreessen, veria, že umelá inteligencia konečne vyrieši všetky problémy ľudstva. Dňa 6. júna 2023 Andreessen publikoval esej s názvom Prečo AI zachráni svet okorenenú trúfalými vyhláseniami ako napríklad „Prinášam dobré správy: umelá inteligencia svet nezničí a v skutočnosti ho možno zachráni“ a „Umelá inteligencia môže zlepšiť všetko, na čom nám záleží“. Dospel k záveru, že „vývoj a šírenie AI – ani zďaleka nie sú rizikom, ktorého by sme sa mali báť – je morálnou povinnosťou, ktorú máme voči sebe, svojim deťom a svojej budúcnosti“.14

Ray Kurzweil v knihe The Singularity Is Nearer tvrdí, že „umelá inteligencia je kľúčovou technológiou, vďaka ktorej budeme môcť riešiť naliehavé výzvy vrátane prekonávania chorôb, chudoby, zhoršovania životného prostredia a všetkých svojich ľudských slabostí. Máme morálnu povinnosť naplniť tento prísľub nových technológií“. Kurzweil si uvedomuje aj potenciálne nástrahy technológie a analyzuje ich do hĺbky, lenže je presvedčený, že sa dajú úspešne zmierniť.15

Iní autori sú skeptickejší. Nielen filozofi a sociológovia, ale aj mnohí poprední odborníci na AI a podnikatelia ako Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk či Mustafa Suleyman varujú verejnosť, že AI môže našu civilizáciu zničiť.16 V článku z roku 2024, ktorý spoločne napísali Bengio, Hinton a mnohí ďalší odborníci, sa uvádza, že „nekontrolovaný vývoj umelej inteligencie by mohol vyústiť do rozsiahlej straty života a biosféry a do marginalizácie alebo dokonca zániku ľudstva“.17 V prieskume z roku 2023 medzi 2 778 vedcami v oblasti AI viac ako tretina uviedla aspoň 10-percentnú šancu, že pokročilá AI bude mať negatívne následky až po vyhubenie ľudstva.18

V roku 2023 takmer tridsať vlád – vrátane Číny, Spojených štátov a Spojeného kráľovstva – podpísalo Deklaráciu z Bletchley o umelej inteligencii, v ktorej uznali, že „existuje potenciál vážnych, dokonca katastrofických škôd, či už úmyselných alebo neúmyselných, ktoré vyplývajú z najvýznamnejších schopností týchto modelov umelej inteligencie“.19 Používaním takýchto apokalyptických termínov sa experti a vlády nesnažia vykresľovať hollywoodsky obraz rebelských robotov, ktorí v uliciach strieľajú do ľudí. Takýto scenár je nepravdepodobný a len odvádza ľudí od skutočných nebezpečenstiev. Odborníci varujú skôr pred inými scenármi.

Po prvé, moc umelej inteligencie by mohla prehĺbiť existujúce ľudské konflikty a postaviť ľudstvo proti sebe navzájom. Presne tak ako v 20. storočí železná opona rozdeľovala súperiace mocnosti v studenej vojne, v 21. storočí by kremíková opona – namiesto ostnatého drôtu vyrobená z kremíkových čipov a počítačových kódov – mohla rozdeliť súperiace mocnosti v novom globálnom konflikte. Keďže preteky v zbrojení umelou inteligenciou budú produkovať čoraz ničivejšie zbrane, aj malá iskra vie zapáliť požiar kataklizmy.

Po druhé, kremíková opona môže nielen oddeliť jednu skupinu ľudí od inej, ale skôr všetkých ľudí od našich nových AI vládcov. Bez ohľadu na miesto bydliska, môžeme sa zamotať do siete nevypočítateľných algoritmov, ktoré nám riadia životy, pretvárajú politiku a kultúru a dokonca nám transformujú telá a mysle, zatiaľ čo my už nedokážeme pochopiť sily, ktoré nás ovládajú, nieto ich ešte zastaviť. Ak sa totalitnej sieti 21. storočia podarí ovládnuť svet, možno ju bude riadiť skôr neľudská inteligencia než ľudský diktátor. Ľudia, ktorí označujú Čínu, Rusko alebo postdemokratické Spojené štáty za hlavný zdroj svojich totalitných nočných môr, nebezpečenstvo celkom nepochopili. V skutočnosti Číňanov, Rusov, Američanov a všetkých ostatných ľudí spoločne ohrozuje totalitný potenciál neľudskej inteligencie.

Vzhľadom na nesmiernu závažnosť nebezpečenstva by mala byť AI v centre záujmu všetkých ľudských bytostí. Hoci nie každý sa môže stať odborníkom na AI, všetci by sme mali myslieť na to, že AI je prvou technológiou v histórii, ktorá dokáže sama prijímať rozhodnutia a vytvárať nové myšlienky. Všetky predchádzajúce ľudské vynálezy postavenie človeka posilňovali, pretože bez ohľadu na výkonnosť nového nástroja, rozhodnutie o jeho použití zostávalo v našich rukách. Nože a bomby sa samotné nerozhodujú, koho zabijú. Sú to hlúpe nástroje, ktorým chýba inteligencia potrebná na spracovanie informácie a prijatie nezávislých rozhodnutí. Naopak, AI dokáže spracovať informácie sama, a tak ľudí pri rozhodovaní nahradiť. AI nie je nástroj – je to konateľ.

Keďže ovláda informácie, môže samostatne generovať nové myšlienky v rôznych oblastiach, od hudby až po medicínu. Gramofóny hrali našu hudbu a mikroskopy odhaľovali tajomstvá našich buniek. Gramofóny však nedokázali komponovať nové symfónie a mikroskopy nevedeli syntetizovať nové lieky. AI už teraz dokáže produkovať umenie a robiť vedecké objavy. V najbližších desaťročiach pravdepodobne získa schopnosť vytvárať nové formy života, a to buď zápisom genetického kódu, alebo vynájdením anorganického kódu na oživenie anorganických entít.

Už teraz, v zárodočnom štádiu revolúcie AI, o nás rozhodujú počítače – či dostaneme hypotéku, či nás príjmu do zamestnania alebo pôjdeme do väzenia. Tento trend bude len rásť a zrýchľovať sa, takže rozumieť vlastnému životu bude stále zložitejšie. Môžeme počítačovým algoritmom dôverovať, že budú robiť múdre rozhodnutia a vytvárať lepší svet? To je oveľa väčší hazard ako zveriť čarovnej metle nosenie vody. A nehazardujeme tu len s ľudskými životmi. AI môže zmeniť kurz nielen nášho druhu, ale aj evolúciu všetkých foriem života.

Informácie ako zbrane

V roku 2016 som vydal knihu Homo Deus, ktorá upozornila na niektoré riziká vyplývajúce pre ľudstvo z nových informačných technológií. Táto kniha tvrdí, že skutočným hrdinom dejín boli vždy práve informácie, a nie Homo sapiens a že vedci čoraz viac chápu nielen dejiny, ale aj biológiu, politiku a ekonomiku z hľadiska prúdenia informácií. Zvieratá, štáty aj trhy sú informačnými sieťami, ktoré nasávajú údaje z prostredia, robia rozhodnutia a znovu údaje vypúšťajú. Kniha varuje, že hoci dúfame v prínos pokročilých informačných technológií pre svoje zdravie, šťastie a moc, v skutočnosti nám môžu moc odobrať a fyzické i duševné zdravie zničiť. Homo Deus predniesol hypotézu, že ak ľudia nebudú opatrní, rozplynieme sa v prúde informácií ako hrudka hliny v tečúcej rieke a z celkového hľadiska sa ľudstvo zmení len na vlnku vo vesmírnom toku dát.

Za pár rokov od vydania knihy Homo Deus sa tempo zmien ešte zrýchlilo a moc sa skutočne presúva od ľudí k algoritmom. Mnohé zo scenárov, ktoré v roku 2016 zneli ako sci-fi, napríklad že algoritmy dokážu tvoriť umenie, vydávať sa za ľudské bytosti, robiť o nás kľúčové životné rozhodnutia a vedieť o nás viac ako vieme o sebe my sami, sú v roku 2024 každodennou realitou.

Od roku 2016 sa zmenilo množstvo ďalších vecí. Ekologická kríza sa zintenzívnila, medzinárodné napätie sa vystupňovalo a vlna populizmu podkopala súdržnosť aj tých najstabilnejších demokracií. Populizmus okrem toho radikálne spochybnil naivný pohľad na informácie. Populistickí lídri ako je Donald Trump či Jair Bolsonaro, a populistické hnutia a konšpiračné teórie ako napríklad QAnon či antivaxeri, tvrdia, že všetky tradičné inštitúcie, ktoré získavajú autoritu hlásaním, že zhromažďujú informácie a objavujú pravdu, jednoducho klamú. Byrokrati, sudcovia, lekári, mainstreamoví novinári a akademickí odborníci predstavujú elitnú kabalu, ktorá nemá záujem o pravdu a zámerne šíri dezinformácie, aby získala moc a privilégiá pre seba na úkor „ľudu“. Vzostup politikov ako je Trump a hnutí ako QAnon má špecifický politický kontext, ktorý je jedinečný pre podmienky Spojených štátov koncom prvého desaťročia 21. storočia. Lenže populizmus ako svetonázor protestujúci proti establišmentu vznikol dávno pred Trumpom a je relevantný pre mnohé ďalšie historické kontexty dnes aj v budúcnosti. V skratke, populizmus vníma informácie ako zbraň.20

V extrémnejších verziách populisti tvrdia, že neexistuje žiadna objektívna pravda a každý má „vlastnú pravdu“, ktorou sa snaží poraziť súperov. Podľa tohto svetonázoru je jedinou realitou moc. Všetky spoločenské interakcie sú bojom o moc, pretože moc je to jediné, čo ľudí zaujíma. Ak niekto vraví, že ho zaujíma niečo iné – napríklad pravda alebo spravodlivosť – je to len ďalší trik na získanie moci. Vždy a všade, kde sa populizmu podarí rozšíriť názor, že informácie sú zbraňou, sa spochybňuje samotný jazyk. Podstatné mená ako „fakty“ a prídavné mená ako „presné“ či „pravdivé“ sa stávajú nepolapiteľnými. Takéto slová sa nepovažujú za odkaz na spoločnú objektívnu realitu. Namiesto toho sa akékoľvek reči o „faktoch“ alebo „pravde“ zvrtnú na to, že sa niektorí ľudia začnú pýtať: „Ale čie fakty a čiu pravdu máte na mysli?“

Treba zdôrazniť, že tento hlboko skeptický pohľad zameraný na moc nie je novým fenoménom a nevynašli ho antivaxeri, plochozemci ani stúpenci Bolsonara či Trumpa. Podobné názory šírili už dávno pred rokom 2016 dokonca niektoré z najbystrejších mozgov ľudstva.21 Napríklad koncom 20. storočia tvrdili intelektuáli z radov radikálnych ľavičiarov, ako bol Michel Foucault a Edward Said, že vedecké inštitúcie, ako sú kliniky či univerzity, sa nesnažia hľadať nadčasové a objektívne pravdy, ale prostredníctvom moci určujú, čo sa v službách kapitalistických a kolonialistických elít považuje za pravdu. Títo radikálni kritici občas zachádzali až k tvrdeniam, že „vedecké fakty“ nie sú ničím iným ako kapitalistickým alebo koloniálnym „diskurzom“ a že ľudí pri moci v skutočnosti pravda nikdy nezaujíma a nikdy im nemožno veriť, že si uvedomia vlastné chyby a napravia ich.22

Táto konkrétna línia radikálneho ľavicového myslenia siaha až ku Karlovi Marxovi, ktorý v polovici 19. storočia tvrdil, že moc je jedinou realitou, informácie sú zbraňou a elity, ktoré tvrdia, že slúžia pravde a spravodlivosti, v skutočnosti sledujú len úzke triedne privilégiá. Slovami Komunistického manifestu z roku 1848: „Dejiny všetkých doterajších spoločností sú dejinami triednych bojov. Slobodný človek a otrok, patricij a plebej, pán a nevoľník, majster cechu a tovariš, skrátka, utláčateľ a utláčaný stáli v neustálom protiklade, viedli nepretržitý boj, raz skrytý, inokedy otvorený.“ Tento binárny výklad histórie predpokladá, že každá ľudská interakcia je bojom o moc medzi utláčateľmi a utláčanými. Takže vždy, keď niekto niečo povie, netreba sa pýtať, „Čo sa hovorí? Je to pravda?“, ale skôr „Kto to hovorí? Kto má z toho prospech?“

Samozrejme, je nepravdepodobné, že pravicoví populisti ako Trump a Bolsonaro čítali Foucaulta alebo Marxa, a rozhodne sa prezentujú výrazne antimarxisticky. Tak isto sa do veľkej miery líšia od marxistov v presadzovanej politike v oblastiach, ako sú dane či sociálna starostlivosť. Ich základný pohľad na spoločnosť a informácie je však prekvapivo marxistický a všetky ľudské interakcie chápe ako boj o moc medzi utláčateľmi a utláčanými. Napríklad, vo svojej inauguračnej reči v roku 2017 Trump vyhlásil, že „malá skupinka v hlavnom meste nášho národa si užívala výhody vlády, kým ľud znášal náklady“.23 Takáto rétorika je základom populizmu, ktorý politológ Cas Mudde opísal ako „ideológiu, ktorá považuje spoločnosť za rozdelenú na dve homogénne a protichodné skupiny, ,čistý ľud‘ a ,skorumpovanú elitu‘.“24 Presne tak ako marxisti tvrdili, že médiá sú hlásnou trúbou kapitalistickej triedy a že vedecké inštitúcie, napríklad univerzity, šíria dezinformácie s cieľom zachovať kapitalistickú kontrolu, populisti obviňujú tie isté inštitúcie, že pracujú na presadzovaní záujmov „skorumpovaných elít“ na úkor „ľudu“.

Koniec ukážky