AI: Pravděpodobnost zkázy naší civilizace do deseti let je deset procent!?

Nejsme , my neznalí v AI technologiích, obecně žádní experti na AI, víme, že existuje a že se rychle vyvíjí. AI mi pomáhá například s vyhledáváním zdrojů k článkům, dělá tabulky podle zadání. Téma nebezpečí skryté v AI je navíc samo o sobě natolik zajímavé téma, že se stalo námětem mnoha vědecko-fantastických fikcí, a přispěl k němu i náš Karel Čapek vytvořením slova, které ve světovém prostředí naprosto zdomácnělo – a tím slovem je robot. V poslední době se začaly množit zprávy z USA o tom, že se AI vymyká kontrole a že je potřeba „brzdit“. Americký prezident Donald Trump prohlásil, že on je zárukou toho, že se AI kontrole nevymkne. Americký prezident Donald Trump prohlásil, že on sám představuje dostatečnou pojistku proti nevyzpytatelné umělé inteligenci (AI). Jakékoliv snahy technologii omezit označil za zvrácené. Prezident se takto vyjádřil v příspěvku na své sociální síti Truth Social. „Jedinou kontrolou nebo pojistkou, kterou umělá inteligence potřebuje, je silný a chytrý prezident (s vysokým IQ!) a USA ho mají,“ napsal Trump.

Takovéto „výkřiky“ jsou ostatně pro Trumpa docela typické a nezamýšlím tímto způsobem problematiku zneužití AI vůbec zlehčovat nebo zesměšňovat.

Zaujal mne článek v Rozstřelu na iDnes, který se AI a nebezpečí z toho plynoucím, věnuje: Je zhruba desetiprocentní šance, že během příštích deseti až patnácti let přijde kvůli umělé inteligenci konec světa, varuje expert na AI Jan Romportl. V Rozstřelu popisuje autonomní agenty, kteří se dokážou dostat z kontrolovaného prostředí, hackovat infrastrukturu a skrytě mezi sebou komunikovat. Největší hrozbou podle něj nemusí být jaderná válka, ale postupná ztráta kontroly nad světem, manipulace lidí nebo biotechnologicky vytvořená pandemie.

Onen expert na AI se poměrně hodně věnuje vývoji AI v USA. Tam vidí reálné nebezpečí, že se konkurenční firmy neshodnou na společném „zpomalení“ vývoje. V Číně naopak věří tomu, že vládnoucí komunistická elita si je vědoma nebezpečí a je vůči AI „ostražitější“.

Nicméně, co náš expert považuje za největší riziko?

A jak by ten konec mohl vypadat? Stiskne pomyslně AI atomové tlačítko?
Je to překvapivé, ale jeden z možná nejpravděpodobnějších způsobů, jak by lidský potenciál mohl zaniknout, popsal tým kolem českého výzkumníka Honzy Kulveita v krásném esejí nazvaném „Gradual Disempowerment“, tedy postupné zbavování moci nad světem. A to je to, co se v podstatě reálně děje lidem a možná je to nevyhnutelné.

Předáváme víc a víc klíčků od světa. Když se teď podíváte na běžné korporace a jak funguji, tak v tom podhoubí lidí, kteří používají ChatGPT a Claude, dělají třeba prezentace jen tyto modely – všechna drobná mikrorozhodnutí. A to postupně prorůstá světem. A my stále nevíme, co AI agent skutečně chce.

A dále:

Vidíte, já si vždycky říkal, že AI převezme kontrolu nad jaderným kufříkem – ale to podle vás nehrozí?
Asi taky, ale tam si stále myslím, že máme větší šanci způsobit si to sami. Globální jaderná válka má relativně malou pravděpodobnost zničit úplně celé lidstvo. Má velkou pravděpodobnost způsobit globální škody a miliardové ztráty na životech, ale úplně vyhladit lidstvo – to není ta cesta. Kdyby někdo chtěl lidstvo vyhladit, spíš, než přes jadernou válku by šel přes nějakou selektivní, biotechnologicky vytvořenou pandemii. A to je něco, co mě skutečně znepokojuje.

Tolik jako „návnada“ na celý Rozstřel. Nicméně, celá tato problematika má podle mého názoru několik háčků. Jestliže by nás AI skutečně chtěla vyvraždit do jednoho pomocí nějakého „viru“, proč by to vlastně udělala? V sci-fi MATRIX slouží energie lidských těl k tomu, aby měly stroje nad lidmi úplnou nadvládu a lidé své životy prožívají v jakémsi naprosto imaginárním světě. To je velmi podnětná myšlenka, v níž stroje vládnou a díky organické hmotě lidských těl čerpají svou energii. Stále mi prostě není dostatečně jasné, proč by AI chtěla lidi vyvraždit. Navíc je mi záhadou, jak by se onen biotechnologický zánik pomocí pandemie realizoval. AI by byla schopná bez účasti lidí vyrobit vir, který by měl stoprocentní účinek a všechny nás zabil?

Dostáváme se tak opět na jakýsi pomyslný začátek. O konci světa se hovořilo v historii mnohokrát a to tak, že všemocný Bůh zlikviduje hříšníky. Pokud postavíme AI do božské role, uděláme z této technologie naprosto vědomě nového vládce na našimi osudy.