Dívejme se na umělou inteligenci jako na nástroj, nikoliv jako na entitu, která by začala expandovat

SU/VLADIMIR MAŘÍK

Martina: Pane profesore, pojďme se podívat na situaci, ve které teď jsme, na úroveň, na jaké umělá inteligence teď je, a my ji využíváme. Rozvoj umělé inteligence a její zavádění do praxe přinese obrovské společenské změny, bude mít velký dopad. Řekněte mi, když byste teď měl říct několik bodů, které vás napadnou, několik nejzásadnějších dopadů na naše životy, které se vám vybaví – ať už v blízké, nebo ne až tak vzdálené budoucnosti?

Martina: Přesto ale asi všechny dělníky od linek nemůžeme učinit dozorci nad správnou technologií postupu umělé inteligence.

Vladimír Mařík: Ne, ale můžeme je použít například ve vymýšlení toho, co se dá vylepšit. Můžeme je přesunout do služeb, protože pomocí systémů umělé inteligence se bude nabízet více služeb. Můžeme je posunout do sociálních služeb, kde chybějí lidé, a v budoucnu budou chybět, protože čím dál tím víc lidí bude mít potřebu, aby byli opečováváni, a tak dále. Čili, společnost má stále dost otevřených pozic, kam se mohou lidé z výroby – například z namáhavé výrobní práce – přesunout, a to jim přinese jednak snížení fyzické zátěže, a třeba i lepší pocit z užitečnosti ve společnosti.

Martina: Je to jedna z variant, ale nevím, jestli je pro všechny. Řeknu příklad: Všechny naše rozhovory, které tady natočíme, naši kolegové přepisují. Teď to udělá umělá inteligence – Ivo a Ivane, nechci vám teď tady prostřednictvím našeho vysílání oznámit, rozumíme si – já jsem teď naznačila, že vlastně přepisovačů možná nebude potřeba. My je můžeme využít nějak jinak, a určitě to budeme plánovat. Ale přesto všechno to určitým způsobem život společnosti obrátí vzhůru nohama, a může vzniknout i chaos, protože vždycky, když přicházela průmyslová revoluce, a toto všechno, tak strašák nezaměstnanosti, případně masové nezaměstnanosti, pokrok vždycky doprovázel. Myslíte si, že je to opravdu tak lichý strašák?

Vladimír Mařík: Podívejte se, už jsme vlastně na úrovni čtvrté, internetové, nebo průmyslové revoluce, a každá z těchto revolucí vyvolala obavy, že lidé přijdou o práci, každá z těchto revolucí vytvořila jistý chaos, jisté období, kdy se jaksi přestrukturovávala společnost. Ale každá tato revoluce jako výsledek přinesla více pracovních pozic, než zrušila, a každá z těchto revolucí se nakonec ukázala pro lidstvo užitečnou. Je to výzva. Lidé musí měnit profese, zejména ty, které jsou postiženy danou technologií, ale takový je život, a já myslím, že to přispívá k pozitivnímu zdokonalení společnosti. Podívejte se, jestli tady máte přepisovače, a jestli se jich půlka uvolní, tak můžou odejít třeba do domova důchodců něco jim předčítat, povídat si s těmito lidmi, udělat sociální kontakt, to také zkvalitňuje život společnosti. Můžou jít do jiných služeb, můžou se zabývat úplně něčím jiným, psát programy.

V ČR se zapomíná na společenský výzkum. Chybí odborníci, kteří by dokázali procesy, ve společnosti vysvětlit, a společnost poučit. Máme mnoho dat, ale jde o to, jak s nimi nakládáme.

Martina: Dobře, tak se na to podíváme ještě jinak: Když otvíráme dveře migrantům, a to velmi doširoka, dokonce i nelegálním migrantům, tak je velmi často zdůvodnění takové, že je potřeba, aby nahradili, nebo doplnili neexistující manuální sílu na našem trhu, v naší výrobě. V tuto chvíli to převezme umělá inteligence, a pak tady bude najednou celá armáda nejenom domácích lidí, kteří přijdou o práci, ale také spousta zbytečných migrantů, kteří navíc třeba neumějí jazyk, a nemají dostatečnou kvalifikaci. Řekněte mi, nemyslíte, že může třeba dojít i k určitým sociálním bouřím, protože oni pouze zatíží sociální systém? Pouštím se do nějakých fantasmagorií, nebo nad tím přemýšlíte také tak?

Vladimír Mařík: Já se dívám na to, co se o průmyslu 4.0. říkalo před osmi lety, že bude přebytek lidí, kteří jsou schopni jen manuální práce, že tady nezaměstnanost nabude velmi vysokého stupně. A podívejte se dneska – o manuální práci, přestože jsou tu migranti, přestože jsme prokazatelně uvolnili z procesu fyzicky pracující dělníky, tak je stále mnohde napsáno: Přijmeme dělníky. Přijmeme na manuální práci. Chybí nám lidé bez vzdělání na nejhorší práci. Čili, já si myslím, že to nelze říct tak jednoznačně, že by nám to vytvořilo armádu nezaměstnaných. Jde o to, jestli se ti uvolnění lidé chtějí znova zapojit do manuální práce, nebo nechtějí. A v Česku to není příliš populární druh práce, každý se snaží posunout směrem ke kanceláři, k práci u počítače, a nakonec nám dělníci chybějí, i když tady máme spousty imigrantů, jak říkáte. Čili, není to tak jednoznačné.

Martina: To jste asi zavadil o velmi důležitou součást naší informovanosti. Uvedla bych jenom jeden malý příklad: My děláme na můj vkus poměrně často sčítání lidu, kde každý z nás musí udělat informační striptýz, a přesto všechno to nestačí ani na to, abychom si spočítali, že v určitém ročníku bude hodně dětí, které budou potřebovat jít nejen do školek, ale také na střední školy, nebo na učňovská střediska, takže najednou máme armádu dětí, které frustrujeme tím, že jim dáváme téměř nesplnitelně těžké přijímací zkoušky, aby se nemohly nikam dostat, protože pro ně nemáme místo. Měl jste na mysli také třeba toto?

Martina: Jsou dobře uschována.

Vladimír Mařík: Výsledkem toho bylo, že se sem tam objevily nějaké, řekl bych výzkumné práce, které poukazovaly na to, že to nastane. Ale v podstatě výsledky tohoto zpracování dat – když už tedy byla nějaká uvolněna – nikoho nezajímaly. Nikdo se nepostaral o to, aby na základě modelu, který byl udělán na objektivních datech, připravil školy, více jich postavil, nikdo tyto problémy neřešil. A to už souvisí nejenom s tím, že se výzkumy neprovádějí, ale souvisí to i s tím, že z výsledků výzkumů si nikdo nic nedělá.

5G je nenahraditelný nástroj pro komunikaci mezi stroji. Ale pro komunikaci mezi lidmi ho nepotřebujeme. Mobil v 5G nepřenese víc slov, než vyřknete, a může ovlivňovat lidskou tkáň.

Martina: Pane profesore, vzpomínám si na jeden náš krátký rozhovor, který jsme měli před několika lety – a doufám, že není ode mě nefér, že to vzpomenu – a vy jste tehdy řekl: „Na co potřebujeme 5G. Nepotřebujete 5G. 5G není pro komunikaci mezi lidmi, ale pro komunikaci mezi automaty, mezi stroji.“ Jakou cestu jste od té doby v tomto ohledně tohoto názoru urazil?

Nevím – a stále nejsem úplně přesvědčen – zdali 5G potřebujeme pro komunikaci mezi lidmi. Ona je možná dobrá na rychlé stahování filmů – a to už je povídání si mezi stroji – ale normální mobilní telefon vám při komunikaci 5G nepřenese víc slov, než vyřknete. Že ano? A navíc potřebujete pracovat na krátkých vlnách, což je samozřejmě další problém, že musí být více stanic, vysílač může nějakým způsobem ovlivňovat vaši tkáň, i když se to dělá směrovaně. Čili, myslím si, že pro lidi to nebyl takový vynález, jako pro komunikaci mezi stroji.

Martina: A chápete, proč nám to tedy tolik fedrují? Proč tolik vysílačů? A proč neustálé oslavné reklamní kampaně na to, že konečně už máme 5G, a budeme komunikovat jako delfíni?

Vladimír Mařík: Víte, co je to telekomunikační business? To je stejný business, jako v konzumní elektronice, kde vám píšou, že máte televizi s daleko větším rozlišením, a kolik tam máte pixelů. Ale to je úplně nepodstatné, protože pro vás, jakožto člověka je to stejně ostré. Ale kupte si novou generaci televizí, která je na takovém, nebo onakém principu – to v podstatě člověk ani nepozná. Čili, dívejte se na to jako na business, kdy je potřeba postavit více sítí, a zase přijít s něčím novým, aby se mohly zvýšit měsíční sazby.

Pokud si to necháme líbit, tak AI, a její masové rozšíření do našich životů, našeho myšlení, do médií, počítačů, může omezovat naši svobodu

Martina: Pane profesore Vladimíre Maříku, podobný institut, podobný ústav, jako je CIIRC, tedy Český institut informatiky, robotiky a kybernetiky, budujete také v indickém Džajpuru, a zmíním, že shodou okolností tento institut bude mít dokonce vaše jméno. Takže gratuluji, to je na vědeckém poli, řekla bych, velký metál. A proto nevím, jestli vlastně není ode mne nefér, když položím otázku, a jestli ji můžete zodpovědět, zda za určitých okolností může umělá inteligence – a její masové rozšíření do našich životů, do médií, do počítačů, do našeho myšlení – být určitým způsobem omezení svobody?

Vladimír Mařík: Domnívám se, že může, pokud si to necháme líbit. Myslím, že násilím nám nikdo mobil, nebo nějakou umělou inteligenci, nevnutí, a pakliže ji chceme používat, tak je na nás, abychom věděli, co za ní je, jak ji používat, a nenechali se jí úplně zotročit.

Martina: Vnucuje, pane profesore, vnucuje. Vnucuje se nám stále salámovou metodou – někde už vůbec nemůžete platit hotovostí, někde už po vás začínají chtít eDoklady, zkrátka všecko v mobilu. A znáte ten stav mladých lidí, kteří milují, že všechno mají v té své krabičce, které se říká mobilní telefon, a kdyby to mohli mít možná v dlani, tak by byli ještě raději.

Vladimír Mařík: Především elektronické doklady zatím po nás nikdo moc chtít nemůže.

Martina: Protože nefungují.

Vladimír Mařík: Protože přes všechny přísliby stále nefungují. Ale to je čistě záležitost digitalizace, u eDokladů není umělá inteligence nijak zapotřebí. Já pořád považuji za nutné oddělovat čistou digitalizaci od umělé inteligence. Ono to splývá, protože na digitalizaci obvykle přirozeně navazují nějaké systémy, které jsou inteligentní, a začínají vám vnucovat reklamu, začínají vám vnucovat cokoliv jiného. Ale my se přeci můžeme bránit, můžeme se už v novějších systémech – byť za poplatek – reklamy zbavit. Můžeme si uvědomit, jak se nás snaží svět nul a jedniček vtáhnout, omezit – a bránit se tomu. Pořád si myslím, že je důležité, aby lidé věděli, co je za tím, aby si uvědomili, co může být za tím, když mě kontaktuje někdo neznámý, a chce taková a jiná čísla. Prostě se domnívám, že lidé by měli dost dobře vědět, s čím pracují, a plošná osvěta, jednoduché vysvětlení těchto principů uživatelům, zatím vázne. A tam vidím problém.

A také vidím problém v tom, že samozřejmě na začátku jsou všechny tyto systémy zdarma, a jakmile si na ně zvyknete, tak za 20 dolarů měsíčně můžete používat lepší GPT. Ten horší, který holt sledujete téměř pořád, můžete mít zadarmo, ale jestli chcete mít nějaký GPT, který má menší procento halucinací, musíte zaplatit. Jestliže používáte internet, tak si musíte – pokud nechcete reklamu – na serverech zaplatit, a to mi často připadá vůči lidem nefér. Ale možnost se tomuto aspoň trochu bránit, je. Nevím, jak to bude do budoucna.

AI založená na anorganické hmotě nemůže získat vědomí. Umělé vědomí půjde udělat, až se podaří vyrobit umělou biologickou tkáň s cílevědomým chováním a potřebou se sama udržovat.

Martina: Pane profesore, ve vaší knize Eseje o vědomí – směrem k umělé inteligenci, si pokládáte otázku, zda stroje někdy dosáhnou něčeho podobného, jako je lidské vědomí. Onen zmiňovaný futurolog Kurzweil tvrdí, nejenom že zatím nemají vědomí, ale dokonce ani žádné emoce, jakožto předstupeň vědomí. K čemu jste tedy dospěl?

Vladimír Mařík: To byla zásadní otázka, na kterou jsme chtěli v té knize odpovědět, protože odpověď na tuto otázku je velmi důležitá pro budoucí rozvoj umělé inteligence. Proto jsme z velké šíře z různých oborů získávali informace o tom, co je vědomí, a nakonec si myslím, že jsme dospěli k závěru, že u anorganické hmoty bude téměř nemožné, nebo nemožné získat vědomí. Důvodem je, že každá organická hmota je svým způsobem proaktivní, to znamená, každý živočich, všechno, co je živé, se snaží schovávat ve svých buňkách nějaké zásoby, snaží se o udržení jedince, snaží se o udržení rodu. Čili má nutkání snižovat entropii, a zvyšovat organizovanost. A to anorganická hmota nemá čili, té je všecko jedno, nemá žádné nutkání cokoliv měnit. Nemá tedy žádný cíl, žádný si nechce stanovit. Říkám to velmi populárně, je to o něco složitější. Čili stroje, které budou založeny čistě na anorganickém křemíku, budou přesně, a čím dál tím přesněji simulovat, že mají vědomí, že mají emoce, ale nic nebudou prožívat – nejsou schopny prožívat vědomí, nejsou schopny prožívat emoce.

Proto rozlišujeme mezi strojovým vědomím a mezi umělým vědomím. Strojové vědomí je takové vědomí, že stroj dokonale napodobuje přítomnost vědomí, čím dál tím dokonaleji, blížíme se, každým rokem vylepšujeme systémy, a tyto inteligentní systémy vypadají, že mají vědomí – ale je pořád strojové. Umělé vědomí zřejmě půjde udělat až tehdy, až se nám podaří vyrobit nějakou umělou biologickou tkáň, která se začne chovat třeba tak, že bude mít potřebu se sama udržovat, a bude mít cílevědomé chování.

Martina: A to jsme v první půlhodince našeho setkání říkali, že je potřeba proto striktně stanovit hranici mezi živou a neživou hmotou. Je tomu tak?

Vladimír Mařík: Ano, je tomu tak.

Dívejme se na AI jako na nástroj, a ne jako na samostatně existující entitu, která by někde ve vesmíru expandovala, navazovala za nás kontakty a vymkla se kontrole

Martina: A taky jsme si řekli, že na to půjde jen velmi těžko dohlédnout.

Vladimír Mařík: To jsme také říkali. Ale prvotní je, že se těžko přesně definuje hranice. Speciálně u virů je to někde na pomezí, tam to vzniká. A půjde těžce dohlédnout – dobře.

Martina: A jak do toho zapadá Fermiho paradox?

Vladimír Mařík: To jste mi položila těžkou otázku.

Martina: Protože pokud matematik Fermi z okruhu Oppenheimera, a podobně, přišel se svou teorií, zjednoduším, že jsme se zatím – přestože jistě nejsme ve vesmíru, v kosmu sami – nepotkali s žádnou vyspělou civilizací proto, že na to, aby se jiné civilizace mohly vydat na cestu vesmírem, tak musí vyvinout umělou inteligenci, a ona je pak nakonec vždycky zničí. Na Wikipedii – a v jeho poznámkách – je to popsáno mnohem, mnohem obsáhleji, ale takto stručně se tady o tom zmínil neurolog, profesor Martin Stránský, tak to převypravuji jenom takto jednoduše.

Vladimír Mařík: Samozřejmě k tomu, abychom začali komunikovat s cizí planetou, musíme mít přirozenou inteligenci – a já se na tu umělou dívám jako na jakýsi multiplikátor inteligence lidské – a pokud nebudeme mít tu přirozenou, tak žádná umělá za nás komunikaci s dalšími civilizacemi nezařídí. Dívejme se na umělou inteligenci jako na nástroj, nikoliv jako na samostatně existující entitu, která by někde ve vesmíru začala expandovat, navazovat za nás kontakty, a vymkla by se kontrole.

K učení systémů s AI potřebujete ve světě asi 200 TWh ročně, což je trojnásobná spotřeba ČR. Do tří, čtyř let to bude 1 000 TWh, což je spotřeba Japonska.

Martina: Dobře, budu se na ni tedy dívat jako na stroj, který prostě, když – vulgárně řečeno – nedáme do zásuvky, a nenaprogramujeme, tak nefunguje. Přistoupím na to, přestože vy ze mě určité cítíte, že sdílím obavu z toho, že se nám může tento nesporný pokrok časem vymknout z rukou, a možná nám třeba i velmi zavařit. Ale dobrá, tak tedy náš robot je v zásuvce, a já řeknu větu českých trolejbusáků: „Jsme bez proudu.“ Není jednou ze zásadních potíží masového využití umělé inteligence – jak se to plánuje do budoucna – že je to neobyčejně energetiky náročný špás?

Vladimír Mařík: Vy jste přepnula pozornost k tématu, kterému se málokdo věnuje, a to je energetická náročnost algoritmů umělé inteligence. Ta je opravdu mimořádná, a postupně začíná užírat procenta, a desítky procent z naší energetické spotřeby. Dneska se odhaduje, že k učení systémů s umělou inteligencí potřebujete ve světě řádově 200 TWh ročně, což je trojnásobná spotřeba České republiky, a do tří, čtyř let se odhaduje, že bude potřeba 1 000 TWh, což je spotřeba Japonska.

Martina: Teď už zbývá jenom si přát, aby hodně svítilo a foukalo.

Vladimír Mařík: A například v některých zemích, v Irsku, ale i v některých státech, které jsou součástí Spojených států, je zakázáno budovat výpočetní prostředky pro učení systémů umělé inteligence, pokud daná společnost nemá zajištěn zdroj energie – čili, řečeno stručně, pokud k němu nepostaví elektrárnu. A Microsoft už dokonce počítá s tím, že by si koupil elektrárnu na bázi jaderné fúze – což je velmi efektivní způsob získávání energie, ale zatím nikde ve světě nefunguje – aby mohl budovat své další systémy, kde bude učit.

Martina: A chápete, pane profesore, v tom smyslu slova, co jste teď řekl, postup Evropy? Že se snažím co nejvíc rozvinout umělou inteligenci – možná řeknu i „zahltit“ jí svět, průmysl – a všecko to postaví na nestabilních zdrojích energie?

Vladimír Mařík: Podívejte se, Evropská unie, myslím, vůbec dosud nepochopila přelomový význam umělé inteligence. Spojené státy jsou před námi, Čína je před námi – trošku možná v jiných aspektech umělé inteligence, ale Evropa je v poklidu, kupuje si výsledky ve Spojených Státech, v Číně – nijak zatím masivně – a vůbec jí to nevadí. Čili, Evropa nemá jasnou koncepci, jak tady budovat systémy, velké systémy typu GPT, učení, prostě velkých modelů – tím si neláme hlavu – protože: „Nám to přeci Amerika dodá.“ A neláme si hlavu ani nad tím, kde se seženou zdroje, které to budou provozovat.

Systémy s AI budou požírat stále větší koláč energie. A v důsledku Green Dealu budeme mít spoustu rozptýlených malých zdrojů. Jak je zintegrujeme do jednotného celku?

Martina: A co tedy Evropě vlastně ve výsledku zbude? Protože automobilový průmysl zvolna likvidujeme, případně ho přesouváme tam, kde jsou velkorysejší k emisním povolenkám. A třeba my, konkrétně naše země, naší energií poměrně zhusta zásobujeme naše sousedy. Vyvinuli jsme zcela nový ekonomický model: Elektřinu levně prodáme, a draze ji nakoupíme. Znamená to, že už se opravdu střílíme i do druhého kolena, protože i kdybychom chtěli dál rozvíjet umělou inteligenci, se vší její energetickou náročností, zejména u systémů se strojovým učením, tak jsme diskvalifikováni?

Vladimír Mařík: Podívejte se…

Martina: Promiňte, já zjednodušuji. Ale možná tak úplně ne. Nebo ano?

Vladimír Mařík: Ne, to jsou věci, na které se snažíme poukazovat, protože za dnešní energetické transformace se zapomíná na dvě zásadní věci: Jedna věc je, že systémy s umělou inteligencí, informatické systémy, budou požírat větší a větší koláč našeho energetického výrobního zásobníku, nebo naší výroby. Druhá věc je – a to je také nedořešeno – důsledek Green Dealu. My budeme mít spoustu zdrojů – ne páteřní jaderné elektrárny – ale budeme mít tisíce, desetitisíce malých zdrojů, což jsou fotovoltaiky na střechách továren, malé vodní elektrárny, biomasové elektrárny, a tak dále, a ty budou rozptýleny po české krajině. Jak je zintegrujeme do jednotného celku?

Martina: Jak?

Vladimír Mařík: Jak? Jedině tak, že se začneme bavit o principech průmyslu 4.0, a o integraci systémů do větších celků za pomoci specifického energetického internetu, a za pomoci umělé inteligence. Protože to bude umělá inteligence, která bude po síti zjišťovat, kdo a co vyrobí, kdo co spotřebuje, a jak to rychle přepínat. Ale energetickým internetem na bázi umělé inteligence se tady dosud nikdo nezabývá.

Martina: Promiňte, a to myslíte jenom u nás, nebo Evropu, nebo třeba nejbližší sousedy?

Vladimír Mařík: Teď myslím zcela konkrétně u nás, protože máme kontakty s Rakouskem, máme kontakty s Francií, a tam všude vyvíjejí systémy integrace dílčích zdrojů – netradičních zdrojů, obnovitelných zdrojů, malý, velký – do jednotné soustavy. A mají celé oblasti – vesnice, okresy – kde to zkoušejí. My jsme zatím dospěli jenom ke Smart Metering (chytré měření – energie, plynu, vody), což je technologie, kdy sbíráme data o tom, kdo co odebral, a už nejsme schopni říct: „Teď ti omezujeme odběr.“ Nebo: „Teď ti doporučujeme, abys dodával do sítě.“

Martina: Hlavně, i kdybychom dokázali všechno, co jste vyjmenoval, koncentrovat, ať už bioplynky, fotovoltaické panely, větrníky, tak stačí to na něco jiného, než na pračku se sušičkou? Stačí to skutečně na systémy se strojovým učením, o kterých tady máme neustále velké sny a plány, a upínáme se k tomu? Teda aspoň někteří?

Vladimír Mařík: Podívejte se, to ještě souvisí nejenom se zdroji. Ještě složitější jsou úložiště, baterie, kde můžete uchovávat přebytečnou energii. Všude ve světě se staví výpočetní centra pro umělou inteligenci poblíž úložišť, to znamená, že přebytek energie se schová, a v noci, když vyrábíme, a energie má zápornou cenu, plus máme k dispozici baterie, se tyto využívají k výpočtům, a zlevňují kapacitu, výpočetní sílu. Světová energetická organizace spočítala, že kdyby se začaly používat metody umělé inteligence pro propojování zdrojů, spotřebitelů a prosumerů (složenina anglických slov producer a consumer, tedy výrobce a spotřebitel v jednom) – což jsou někdy zdroje, někdy spotřebiče – tak lze šikovným řízením ušetřit 10 až 15 procent. A není to právě ta energie, kterou bychom potřebovali na strojové učení? Nevím. Pravdou je, že integrace zdrojů v Česku není tématem číslo jedna, ale za pět, deset let, nám bude chybět.

VLADIMÍR MAŘÍK

(1 votes, average: 5,00 out of 5)

Loading...