RICHARD SUSSKIND

AKO PREMÝŠLAŤ
O UMELEJ
INTELIGENCII

PRÍRUCKA PRE
ZMÄTENÝCH

Elektronická kniha

Richard Susskind

How To Think About AI: A Guide For The Perplexed

Copyright © Richard Susskind 2025

Translation © Marián Hamada

Design & Layout © Miro Čevela

Slovak Edition © 2026 by N Press, s. r. o.

How To Think About AI: A Guide for the Perplexed was originally published in English in 2025. This translation is published by arrangement with Oxford University Press. N Press, s. r. o., is responsible for this translation from the original work and Oxford University Press shall have no liability for any errors, omissions or inaccuracies or ambiguities in such translation or for any losses caused by reliance thereon.

ISBN 978-80-8230-451-3

Venované pamiatke môjho skvelého otca

Vyvinuli sme počítačový program, ktorý dokáže myslieť nenumericky, čím sme vyriešili odveký problém duše a tela a vysvetlili, ako môže mať systém pozostávajúci z hmoty vlastnosti mysle. Tým sme umožnili automatizáciu najrôznejších úloh, ktoré si dovtedy vyžadovali ľudskú inteligenciu, a priniesli sme nové metódy – počítačovú simuláciu – na štúdium myšlienok. Vďaka tomu sme získali značný ohlas a pritiahli pozornosť kritikov, ktorí boli hlboko presvedčení, že stroje nedokážu myslieť, a chceli celý svet varovať pred našimi tvrdeniami.

Herbert A. Simon, nositeľ Nobelovej ceny,

takto opisoval prácu vykonávanú v rokoch 1955 až 1956.

Trváte na tom, že sú veci, ktoré stroje nezvládnu. Ak mi presne poviete, o aké činnosti ide, vyrobím taký stroj, ktorý to dokáže.

John von Neumann, 1948

V každom výkriku, v každom hlase,

v každom strachu, čo dieťa skľúči,

v každom zákaze v každom čase

putá kuté mysľou mi zvučia.¹

William Blake, „London“, 1794

Žiadnu časť tejto knihy nenapísala umelá inteligencia

(hoci neviem, či je to dobré alebo zlé).

Osobná poznámka

O AI som začal premýšľať v roku 1981, keď som sa s ňou prvýkrát stretol ako študent Glasgowskej univerzity. Písal som dizertačnú prácu o tom, či počítače raz budú môcť nahradiť sudcov, a všetky cestičky v mojom výskume viedli k umelej inteligencii. Veľmi rýchlo ma to chytilo a túžil som dozvedieť sa viac. Odišiel som teda zo svojho rodného Škótska na Oxfordskú univerzitu a v polovici osemdesiatych rokov som tam napísal dizertačnú prácu o AI a práve.² Koncom tej istej dekády som v globálnej účtovníckej a konzultačnej firme viedol britskú pracovnú skupinu pre umelú inteligenciu a spolupracoval som na vývoji úplne prvého plne funkčného AI systému pre právnikov.³ Odvtedy som napísal niekoľko kníh, ktoré sa zaoberali AI nielen v oblasti práva. S Danielom Susskindom sme písali o vplyve umelej inteligencie na odborné povolania v rôznych sektoroch vrátane zdravotníctva, vzdelávania, daňovníctva, auditu, architektúry, žurnalistiky a ďalších.⁴ Dnes pôsobím ako poradca medzinárodných spoločností a vlád pre oblasť AI a jej vplyvu na budúcnosť.

Umelá inteligencia je teda mojím celoživotným zameraním a vášňou. Táto kniha je úvodnou príručkou pre oblasť AI a veľa informácií, ktoré obsahuje, je založených na mojom vlastnom výskume. Prelínajú sa v nej aj poznatky zo štyroch disciplín, ktoré sú mi blízke – z filozofie, digitálnych technológií, práva a dlhodobého strategického plánovania –, a tiež z mojich pracovných skúseností v súkromnom, verejnom i neziskovom sektore a v oblasti vzdelávania.

Možno to vyzerá ako nejaká podivná rodinná tradícia, no aj obaja moji synovia veľa premýšľajú a píšu o umelej inteligencii – Daniel je ekonóm a skúma dosah technológií na zamestnanosť a hospodársky rast,⁵ Jamie je zas právnik a politológ a analyzuje možnosti regulácie AI a jej vplyv na politiku.⁶ Táto kniha odzrkadľuje aj ich myslenie, čo sa prejavuje na tom, ako nehanebne často citujem ich práce.

Pri písaní tejto knihy a intenzívnom premýšľaní o najnovšom vývoji AI sa postupne menil aj môj postoj. Oddávna som presvedčený, že AI nám môže priniesť významné spoločenské a hospodárske benefity. Dnes je moje nadšenie ešte väčšie, no zároveň si vďaka dôkladnej analýze najnovšieho závratného pokroku v tejto oblasti čoraz viac uvedomujem aj rozsah a intenzitu hrozieb, ktoré AI prináša.

Som presvedčený, že vyvažovanie benefitov a rizík umelej inteligencie – záchrana ľudstva pomocou AI a zároveň pred AI – je základnou výzvou dnešnej doby.

Úvod

Marvin Minsky bol profesorom informatiky na MIT (Massachusettská technická univerzita). Patril medzi priekopníkov umelej inteligencie a v roku 1969 vyhral prestížnu Turingovu cenu. O rok nato sa v časopise Life objavil jeho citát: „Keď raz počítače získajú kontrolu, nemusia nám ju vrátiť. Prežijeme iba s ich dovolením. Ak budeme mať dosť šťastia, ponechajú si nás ako domácich miláčikov.“7

Kedysi som si myslel, že je to vtipné. Dnes si tým už nie som taký istý.

Úplne iný postoj zaznel v časopise New Scientist v roku 1986: „V dejinách akademického skúmania sa nenájde bezočivejší podvodník ako AI.“8 Mnohí vedci a akademici odvtedy opakujú podobné obvinenia a tvrdia, že AI je len nafúknutá bublina.

Dá sa nájsť rovnováha medzi tvrdeniami Minského a New Scientist?

Popravde AI od svojich počiatkov rozdeľuje ľudí. Tento termín sa prvýkrát objavil v polovici päťdesiatych rokov a odvtedy sledujeme vzájomné prekrikovanie fanúšikov a kritikov umelej inteligencie. Napätie medzi nimi je krikľavejšie ako zvyčajný nesúhlas medzi mysliteľmi a vedcami z rôznych filozofických škôl. Stávka je totiž neporovnateľne vyššia. Môžeme natvrdo povedať, že AI zásadne ovplyvní budúcnosť ľudí a celej spoločnosti.

Je však AI vrcholom ľudského snaženia alebo jeho opakom? Poskytne odpovede na najpálčivejšie výzvy, ktorým čelí ľudstvo, počnúc klimatickou krízou, končiac otázkami globálneho zdravotníctva? Alebo signalizuje úpadok biologického človeka?

Nemám poruke hotové odpovede na tieto ani mnohé iné otázky, ktoré dnes pred nás kladie AI. Stále len tápame v mučivo zložitom, nezmapovanom teréne. Som si istý, že v nadchádzajúcich rokoch budeme čeliť otázkam, ktoré momentálne vôbec nedokážeme vnímať – nevieme si ich ani len predstaviť, pretože sa vzťahujú na problémy, ktoré ešte nevznikli v rámci dosiaľ nevyvinutých systémov. Nedokážeme vidieť to, čo je za dosahom reflektorov, za horizontom, ktorý nám osvetľuje naše dnešné vnímanie súčasných a vznikajúcich technológií.

Chcel by som čitateľom v tomto víre neistoty poskytnúť niekoľko možností, ako premýšľať o AI. Mohli by sa stať základom odbornejšej diskusie a úvahy. Toto nie je technická knižka. Je úvodom do problematiky tak z hľadiska obsahu, ako aj tónu. Predpokladám, že čitatelia nemajú technické poznatky o AI a digitálnych systémoch. Jedným z mojich cieľov je zbúrať mýty o umelej inteligencii, podnietiť verejnú diskusiu o tomto pozoruhodnom koncepte a uistiť čitateľov, že sa nemusia stať technologickými expertmi na to, aby mohli rozumne premýšľať a debatovať o vplyvoch AI. Očakávam, že mnohým vedcom sa nemusí páčiť, keď vedome preskakujem mimoriadne zaujímavé a zložité technické aspekty. Nerobí sa mi to ľahko. Som však presvedčený, že diskusia o AI a jej následkoch nemusí byť vždy zameraná na technické podrobnosti.

Podnetom na napísanie knihy bola hystéria, ktorá zavládla v novembri 2022 po spustení výnimočného AI systému známeho ako ChatGPT. ChatGPT patrí do vetvy umelej inteligencie, ktorú nazývame generatívna AI (zatiaľ si s týmto pojmom nerobte starosti). Do dvoch mesiacov od spustenia mal 100 miliónov používateľov a toto číslo sa do roka zdvojnásobilo. Nasledovala vlna komentárov a špekulácií. Lenže mnohé tvrdenia a predpovede týkajúce sa AI sú popletené. Nováčikovia v tejto oblasti majú napríklad neraz pocit, že generatívna AI je konečný produkt, posledná zastávka na ceste umelej inteligencie. V skutočnosti sa všetko len začína. Sme na úsvite AI.

Obávam sa, že debatu o AI a tvorbu politík v tejto oblasti príliš ovplyvňujú technickí špecialisti a podnikatelia v technológiách. Tým najlepším z nich nemožno uprieť mimoriadny talent, no niektorí priveľmi dogmaticky nahliadajú na otázky súvisiace s etikou, so spoločenskými dosahmi, s medzinárodnými vzťahmi či reguláciami. Navyše sú často až príliš zaťažení tým, ako a prečo používajú umelú inteligenciu, a nedokážu preto hovoriť spoľahlivo ani objektívne o jej budúcnosti a vplyvoch.

V tomto zlomovom bode ľudských dejín je mojím cieľom vniesť viac svetla do našich každodenných rozhovorov o AI. Práve preto sa zameriavam na to, ako by sme mohli my ľudia užitočne premýšľať o AI.

Kniha je rozdelená do piatich častí, ktoré zodpovedajú tomu, čo považujem za základné stavebné prvky jasného uvažovania o AI.

Prvá časť je venovaná pochopeniu samotnej AI. Prvá kapitola hovorí o tom, že pri získavaní poznatkov o AI nezaškodí pozrieť sa na jej históriu a trajektóriu vývoja za ostatných 75 rokov. V snahe o lepšie pochopenie prináša druhá kapitola pohľad viac zoširoka a nahliada na AI v rozsiahlejšom kontexte všeobecnejšieho vývoja v oblasti digitálnej technológie.

Druhá časť nabáda čitateľov k zmene myslenia. Tretia kapitola opisuje dva široké, no zároveň výrazne odlišné spôsoby nazerania na AI. Jeden z nich sa zameriava na výstupy AI systémov, zatiaľ čo druhý na rôzne procesy na pozadí. Štvrtá kapitola odhaľuje zmätky, ktoré vyplývajú z ignorovania rozdielov medzi vyššie spomenutými perspektívami. Patrí sem aj otázka, či je ľudstvo po nástupe AI odsúdené na zánik. Piata kapitola sa venuje možnostiam strojov, pre ktoré dnes ešte ani nemáme pomenovanie, a popritom identifikuje niektoré zjavné obmedzenia AI systémov.

Tretia časť je praktickejšia – zameriava sa na to, ako dosiahnuť, aby AI reálne fungovala. Šiesta kapitola prináša názor, že ak chceme uchopiť vplyv AI na prácu, nesmieme sa obmedziť na automatizáciu a substitúciu dnešných pracovných činností ľudí. Musíme porozumieť tomu, ako AI dokáže meniť náš spôsob práce a v niektorých prípadoch odstrániť problémy, na ktorých riešenie sa dnes zameriavajú mnohé ľudské pracovné pozície. Siedma kapitola varuje pred jednoduchým zavedením AI do existujúcich organizácií a volá po radikálnej štrukturálnej zmene našich inštitúcií vrátane zdravotníckych služieb, súdneho systému a celého školského systému.

Štvrtá časť sa pozerá na riziká, ktoré AI prináša. Ôsma kapitola kategorizuje širokú paletu relevantných hrozieb a deviata kapitola ponúka pár pohľadov na to, ako si s nimi poradiť.

Piata časť uvažuje o budúcnosti ľudstva, v ktorej sú schopnosti strojov čoraz väčšie. Je preto filozofickejšia, špekulatívnejšia a pravdepodobne aj znepokojujúcejšia. V desiatej kapitole sa pozrieme na to, či stroje môžu nadobudnúť vedomie. Jedenásta kapitola nabáda k tomu, aby sme pri uvažovaní o budúcnosti nehľadeli len na AI. Upozorňuje na niektoré ďalšie významné technológie, napríklad na rozhranie medzi mozgom a počítačom či na virtuálnu realitu, čo vedie k nutnosti zvážiť určité znepokojujúce filozofické možnosti súvisiace s povahou našej každodennej reality. Napokon je tu dvanásta kapitola, v ktorej sa z vtáčej perspektívy opäť pozrieme na AI a jej vplyv na budúcnosť ľudstva v kontexte evolučných a kozmologických súvislostí.

Každá kapitola sa zaoberá mimoriadne zložitými otázkami. Mojím cieľom nie je zodpovedať všetky, ale povzbudiť čitateľov, aby sami otvorili diskusiu – so svojou rodinou, priateľmi, kolegami aj vládami – o dôsledkoch najzásadnejšieho súboru technológií našej doby.

PRVÁ ČASŤ

Porozumieť AI

Prvá kapitola
Leto AI

Ak chceme jasne uvažovať o AI, najprv si musíme zodpovedať otázku, čo je a čo nie je AI. Môj prístup k tejto veci je viac pragmatický ako teoretický.

Vo všeobecnosti sa dá umelá inteligencia definovať dvomi spôsobmi: podľa toho, ako funguje, alebo podľa toho, čo dokáže. Odborníci na technológie na ňu zväčša hľadia prvým uvedeným spôsobom. Charakterizujú AI podľa techniky a technológií, na ktorých je postavená. Často pri tom používajú špecifický žargón. Hovoria napríklad o „neurónových sieťach“, „veľkých jazykových modeloch“, „spätnom šírení“, „grafických procesoroch“, „adversariálnom strojovom učení“ či „bázových modeloch“. Neraz tým ohromujú svojich poslucháčov. Väčšina ľudí, od strategických lídrov po bežných občanov, nepozná význam uvedených slov a nemá dostatočné technické vzdelanie na to, aby porozumeli konceptom, ktoré za nimi stoja.

Práve preto je mojím východiskom druhá zo spomenutých perspektív. AI sa dá podľa mňa najlepšie pochopiť prostredníctvom niekoľkých praktických príkladov toho, čo systémy s umelou inteligenciou dokážu už dnes a čo bude v ich silách už čoskoro.

Čo dokáže AI

V čase počiatkov umelej inteligencie, v období takzvanej starej dobrej AI, sme umelú inteligenciu rozsekali na niekoľko oddelených oblastí. Hovoríme o šesťdesiatych, sedemdesiatych a osemdesiatych rokoch minulého storočia. Používali sme vtedy pomerne všeobecné označenia a zameriavali sme sa na široké kategórie úloh pre AI. Jednou z nich bolo napríklad rozpoznávanie reči s cieľom vyvinúť systémy, ktoré by rozumeli slovám ľudí a dokázali by odlíšiť „nestiahni“ a „miesta, dni“. Ďalšou bol preklad z jedného jazyka do druhého tak, aby sme sa vyhli hrúbkam a nepreložili anglické „it‘s raining cats and dogs“ (anglický výraz podobný nášmu „leje ako z krhly“; pozn. prekladateľa) ako „pršia mačky a psy“. Súvisiacou úlohou je „spracovanie prirodzeného jazyka“ umožňujúce ľuďom dávať počítačom pokyny a komunikovať s nimi ľudským jazykom, nie počítačovým kódom, a to so všetkými nepresnosťami a dvojznačnosťami, ktoré to so sebou prináša.

Ďalšou vetvou AI sú expertné systémy. Najrozšírenejším prístupom je pokúsiť sa zachytiť a namodelovať procesy uvažovania a riešenia problémov špičkových expertov a vložiť ich do systémov. Takto by mohli aj laici dosahovať v mnohých sférach výkony porovnateľné so špičkovými expertmi.

Spomeňme aj ďalšie štyri oblasti, ktoré sa osvedčili ako základy nasledujúceho vývoja. Prvou sú hry, dodnes považované za úrodnú pôdu na testovanie AI a laboratórium pre pokrok najvyššej úrovne – nehovoríme len o šachu a čínskej hre go. Ďalšou oblasťou je robotika. Napriek náročným výzvam v poslednom čase výrazne napreduje. Treťou oblasťou je výskum zrakového vnímania. Dochádza k vývoju systémov, ktoré dokážu rozoznávať objekty (vrátane tvárí) vo fyzickom svete. Napokon je tu automatické programovanie, čiže vývoj systémov, ktoré dokážu vyvinúť iné systémy. Môže ísť o najvýznamnejšiu oblasť, keďže v nej prechádzame od strojov vyvinutých výlučne ľuďmi k strojom, ktoré si dokážu napísať vlastný programový kód, samy sa vylepšujú a dokonca aj replikujú.

Prvotná éra „starej dobrej AI“ je za nami. Keď dnes hovoríme o tom, čo AI dokáže, zameriavame sa na konkrétnejšie úlohy, činnosti a oblasti. Mňa osobne najviac zaujíma využitie AI pracovníkmi v odborných profesiách. Napríklad v oblasti zdravotníctva máme AI systémy, ktoré dokážu diagnostikovať choroby, interpretovať snímky, odporúčať liečbu, vykonávať robotické operácie, radiť pacientom a pomáhať pri vývoji liekov a vakcín (AI urýchlila vývoj mRNA vakcíny na covid od spoločnosti Moderna).⁹ V oblasti práva poznáme systémy so schopnosťou navrhnúť, porovnať, zosumarizovať a zjednodušiť právne dokumenty a predpovedať rozhodnutia súdov.¹⁰ Existujú daňové systémy, ktoré dokážu vytvárať a podávať daňové priznania a tvoriť plány a stratégie na odôvodnené znižovanie daňových povinností. V oblasti vzdelávania AI umožňuje personalizované učenie a prístup k najlepším výučbovým zdrojom na svete.¹¹ Navyše AI systémy dokážu navrhovať úžasné architektonické diela (a dokonca ich pomocou 3D tlače vedia aj skonštruovať).

Podobné pokroky zaznamenávame aj v oblasti manažérskeho poradenstva, auditu, prieskumov, poistnej matematiky a v mnohých ďalších expertných a súvisiacich činnostiach, ako sú poisťovníctvo, bankovníctvo a investičný manažment. V prípade mnohých z týchto systémov sme ešte len na začiatku. Niektoré nie sú celkom spoľahlivé, hoci sa zdokonaľujú doslova zo dňa na deň. Iné sa už dnes vyrovnajú najlepším ľudským expertom. Ďalšie svojím výkonom už teraz predbehnú celé tímy najbystrejších špecialistov.¹²

Používanie AI nie je obmedzené iba na pracovníkov v odborných profesiách a zamestnancov v administratíve. Nájdete ju v mnohých sektoroch – od riešenia kvízov po riadenie elektrickej siete, od autonómnych vozidiel po kopilotovanie vojenských lietadiel, od optimalizácie obchodných procesov po plánovanie leteckých trás s cieľom znížiť emisie, od skúmania emocionálneho stavu človeka po vytváranie realistických hovoriacich tvárí. Umelá inteligencia sa čoraz viac dostáva do oblastí, kde bol potrebný výkon ľudského mozgu.

Mnohé AI systémy predstavujú samostatné produkty slúžiace na jediný účel (napríklad diagnostické systémy v zdravotníctve), no AI je čoraz častejšie zabudovaná v iných systémoch. Výrobcovia mobilných telefónov Apple a Samsung tvrdia, že ich prístroje sa dnes používajú jednoduchšie a lepšie, pretože sú vylepšené pomocou umelej inteligencie. AI sa integruje do softvérov, ktoré používame na každodennej báze. Microsoft ponúka svoj AI systém Copilot spolu so softvérom Office. Dokáže písať návrhy e-mailov a dokumentov, sumarizovať stretnutia a e-mailové konverzácie, vytvárať obsah prezentácií, zoznamy úloh a mnoho iného.

V praxi to znamená, že väčšina ľudí bude mať už čoskoro poruke vlastných osobných asistentov, ktorí im pomôžu pri získavaní informácií a organizovaní života. Budeme mať aj osobných učiteľov, ktorí nás bez váhania naučia to, čo budeme práve potrebovať. A to nie je všetko: neustále sa zdokonaľujúce AI systémy budú vedieť odpovedať na otázky z každej oblasti, dokážu vytvárať texty (výborne štylizované listy, poéziu, články, texty piesní), hudbu, kreslené rozprávky, kresby, krajinomaľby, videá a veľa iného. AI dá takto ľuďom do rúk nové nástroje. Nejde iba o to, aby mohli kancelárski zamestnanci zvyšovať svoju produktivitu a efektivitu.

Už dnes používame umelú inteligenciu na každom kroku, no je pred nami skrytá. Keď nám obchodníci ponúkajú cez internet filmy, knihy, šaty či jedlo, ktoré by sa nám mohli páčiť, je za tým nejaká forma AI, voľne nazývaná algoritmus. Podobne AI beží niekde na pozadí, keď žiadame o zamestnanie, pôžičku alebo poistku. Umelá inteligencia je v rôznych štádiách prítomná vo všetkých veľkých organizáciách, na ktoré sa spoliehame – od výroby po maloobchod, od dopravy po nemocnice, od bankového systému po štátnu správu.

Tieto systémy sa používajú aj na vytváranie nových svetov vo virtuálnej realite a dokonca aj na prepájanie mozgov s počítačmi (pozri jedenástu kapitolu). Niektorí nadšenci AI to dotiahli ešte ďalej a veria, že umelá inteligencia pomôže ľudstvu s najväčšími výzvami, pred ktorými stojí – od klimatickej zmeny po rakovinu, od chudoby po konflikty, od prieskumu vesmíru po globálne vzdelávanie, od preľudnených miest po eróziu demokracie.¹³

Koniec ukážky