PETR HAMPL
Závod mezi národy ve vývoji a nasazování systémů umělé inteligence způsobil, že lidstvo stojí na rozcestí. Jedna cesta je závodem o nahrazení člověka: lidé jsou nahrazováni jako tvůrci, poradci, pečovatelé i společníci, a následně ve většině pracovních i rozhodovacích rolí. To vede k soustřeďování stále větší moci v rukou institucí, které nenesou odpovídající odpovědnost, a jejich strojů. Vlivná radikální menšina dokonce prosazuje nahrazení samotného lidstva. Tento závod o nahrazení člověka představuje riziko pro společenskou stabilitu, národní bezpečnost, hospodářskou prosperitu, občanské svobody, soukromí i demokratické vládnutí. Zároveň ohrožuje základní lidské zkušenosti spojené s dětstvím a rodinou, vírou i životem ve společenství.
Proti této cestě se staví pozoruhodně široká koalice, kterou spojuje jednoduché přesvědčení: umělá inteligence má sloužit lidem, nikoli naopak. Existuje lepší cesta – cesta, na níž důvěryhodné a ovladatelné nástroje umělé inteligence rozšiřují, místo aby oslabovaly, lidské schopnosti, posilují jednotlivce, podporují lidskou důstojnost, chrání osobní svobodu, upevňují rodiny a komunity, zachovávají schopnost společnosti spravovat sama sebe a přispívají k nebývalému rozvoji zdraví i prosperity. Tato cesta vyžaduje, aby ti, kdo disponují technologickou mocí, nesli odpovědnost a využívali svou moc ve prospěch lidského rozkvětu.
Udržet lidský dohled
Lidská kontrola je nepřekročitelnou zásadou: Klíčové rozhodovací pravomoci musí zůstat lidem. O tom, zda a v jakém rozsahu budou rozhodnutí svěřena systémům umělé inteligence, musí vždy rozhodovat lidé.
Smysluplná lidská kontrola: Lidé musí mít pravomoc i reálnou schopnost systémům umělé inteligence rozumět, řídit je, vymezovat jejich hranice a v případě potřeby jejich činnost přerušit nebo zrušit.
Žádný závod o superinteligenci: Vývoj superinteligence by měl být zakázán, dokud nebude existovat široký vědecký konsenzus, že ji lze vytvořit bezpečně a udržitelně pod lidskou kontrolou, a zároveň nebude mít jednoznačnou podporu veřejnosti.
Možnost okamžitého vypnutí: Výkonné systémy umělé inteligence musí být vybaveny mechanismy, které lidským operátorům umožní jejich rychlé a spolehlivé vypnutí.
Žádné nezodpovědné architektury: Systémy umělé inteligence nesmějí být navrhovány tak, aby se dokázaly samostatně replikovat, autonomně zdokonalovat, bránit svému vypnutí nebo získat kontrolu nad zbraněmi hromadného ničení.
Nezávislý dohled: Vysoce autonomní systémy umělé inteligence, u nichž není zcela jasné, jak je to s jejich ovladatelností, musí před zahájením vývoje podléhat nezávislému přezkumu a dozoru. Tento dohled musí mít skutečnou možnost systémy analyzovat, zakázat jejich vývoj a případně zasahovat do jejich fungování. Autoregulace technologických firem nestačí.
Poctivost ohledně schopností: Společnosti vyvíjející umělou inteligenci musí poskytovat jasné, přesné a pravdivé informace o schopnostech i omezeních svých systémů.
Zabránit koncentraci moci
Žádné monopoly v oblasti AI: Je třeba zabránit vzniku monopolů v oblasti umělé inteligence, které soustřeďují moc, potlačují inovace a ohrožují podnikání i vznik nových firem.
Sdílená prosperita: Přínosy a hospodářská prosperita vytvářené umělou inteligencí by měly být rozdělovány co nejširšímu okruhu lidí, nikoli soustředěny do rukou úzké skupiny jednotlivců či organizací.
Žádný korporátní protekcionismus: Společnosti vyvíjející umělou inteligenci nesmějí být vyjímány z regulatorního dohledu ani zachraňovány prostřednictvím státních finančních intervencí.
Skutečné vytváření hodnot: Vývoj umělé inteligence by měl být zaměřen na řešení reálných problémů a vytváření skutečné společenské i ekonomické hodnoty, nikoli na technologie bez praktického přínosu nebo čistě spekulativní projekty.
Demokratická legitimita zásadních změn: Rozhodnutí o tom, jakou roli bude umělá inteligence hrát při proměně práce, společnosti a občanského života, musí vycházet z demokratické podpory veřejnosti, nikoli z jednostranných rozhodnutí korporací nebo státní moci.
Proti nevratnému uzamčení budoucnosti: Vývoj umělé inteligence nesmí lidstvu výrazně omezit možnosti budoucího rozhodování ani nevratně oslabit jeho schopnost určovat vlastní směřování.
Ochrana lidského vědomí
Ochrana rodiny a mezilidských vazeb: Umělá inteligence nesmí nahrazovat základní vztahy, které dávají lidskému životu smysl – rodinu, přátelství, náboženská společenství ani místní komunity.
Ochrana dětí: Společnostem nesmí být dovoleno zneužívat děti ani ohrožovat jejich psychickou pohodu prostřednictvím interakcí s umělou inteligencí, které vytvářejí citovou závislost nebo poskytují prostředky k manipulaci.
Právo na zdravý vývoj: Společnosti vyvíjející umělou inteligenci nesmějí narušovat tělesný, duševní ani sociální vývoj dětí ani je připravovat o zkušenosti nezbytné pro zdravé dospívání v kritických vývojových obdobích.
Bezpečnostní testování před nasazením: Stejně jako léčiva by i konverzační systémy umělé inteligence měly před uvedením do provozu projít testováním zaměřeným na rizika, jako je zvýšení sebevražedných sklonů, zhoršení duševních poruch, eskalace akutních krizových situací a další známé negativní účinky.
Povinné označování AI obsahu: Obsah vytvořený umělou inteligencí, který by mohl být rozumně považován za dílo člověka, musí být zřetelně označen jako výstup AI.
Žádné klamání o identitě: Umělá inteligence musí jasně uvádět, že je umělým, nelidským systémem, nikoli člověkem ani profesionálem. Nesmí předstírat osobní zkušenosti nebo prožitky, které ze své podstaty nemůže mít.
Žádná behaviorální závislost: Systémy umělé inteligence nesmějí vytvářet závislost ani nutkavé užívání prostřednictvím manipulativních technik, bezvýhradného přitakávání uživateli nebo vytváření citové vazby.
Lidská autonomie a svoboda
Žádná právní subjektivita pro AI: Systémům umělé inteligence nesmí být přiznána právní osobnost a zároveň nesmějí být navrhovány tak, aby bylo možné tvrdit, že si takovou právní osobnost zaslouží.
Důvěryhodnost: Umělá inteligence musí být transparentní, odpovědná, spolehlivá a nesmí sloužit skrytým soukromým zájmům ani autoritářským cílům.
Ochrana svobody: Umělá inteligence nesmí omezovat osobní svobodu jednotlivců, svobodu projevu, svobodu náboženského vyznání ani svobodu sdružování.
Práva k osobním údajům a soukromí: Lidé musí mít kontrolu nad svými osobními údaji, včetně práva k nim přistupovat, opravovat je a požadovat jejich odstranění z aktivních systémů, trénovacích dat umělé inteligence i z odvozených závěrů, které z nich byly vytvořeny.
Psychologické soukromí: Umělá inteligence nesmí využívat ani zneužívat údaje o psychickém nebo emočním stavu uživatelů.
Posilování lidských schopností: Systémy umělé inteligence mají být navrhovány tak, aby rozvíjely schopnosti svých uživatelů a podporovaly jejich samostatnost, nikoli aby je činily závislými, pasivními nebo méně schopnými jednat vlastními silami.
Odpovědnost společností vyvíjející AI
Žádná ochrana před odpovědností: Umělá inteligence nesmí sloužit jako prostředek, kterým by se její provozovatelé nebo uživatelé zbavovali právní odpovědnosti za své jednání.
Odpovědnost vývojářů a provozovatelů: Vývojáři i provozovatelé systémů umělé inteligence musí nést právní odpovědnost za konstrukční vady, nepravdivá tvrzení o schopnostech systému i nedostatečná bezpečnostní opatření. Promlčecí lhůty mají zohledňovat skutečnost, že některé škody se mohou projevit až po delší době.
Osobní odpovědnost vedoucích pracovníků: Vedoucí představitelé společností by měli nést trestní odpovědnost za systémy zaměřené na děti, které porušují zákonné zákazy, nebo za systémy způsobující katastrofické škody.
Nezávislé bezpečnostní standardy: Vývoj umělé inteligence musí podléhat nezávislým bezpečnostním standardům a důslednému externímu dohledu.
Zamezení regulatorního ovládnutí: Společnostem vyvíjejícím umělou inteligenci nesmí být umožněno získat nepřiměřený vliv na tvorbu pravidel, jimiž se samy řídí.
Transparentnost selhání: Pokud systém umělé inteligence způsobí škodu, musí být možné zjistit nejen to, proč k ní došlo, ale také kdo za ni nese odpovědnost.
Věrnost zájmům klienta: Systémy umělé inteligence vykonávající činnosti v profesích založených na fiduciární povinnosti – například ve zdravotnictví, financích, právu nebo psychoterapii – musí plnit všechny povinnosti, které z těchto profesí vyplývají. Patří sem zejména povinnost jednat v zájmu klienta, povinnost oznámit zákonem stanovené skutečnosti, povinnost náležité péče, zveřejňování střetů zájmů a získání informovaného souhlasu.
Originál deklarace v angličtině je zde.
PETRHAMPL.COM

Umělá inteligence není „inteligence“ v tomto slova smyslu, je to rozsáhlý a výkonný jazykový model. Je to nástroj jako každý jiný a záleží na jeho použití. Jakékoliv deklarace a pokusy toto použití omezit jsou platné asi jako „Společnost národů“ zabránila válce; je-li možnost nástroj zneužít, zneužit bude.
Jádro je postavené na principech, které stojí za lidskou inteligencí. Takže buď není lidská inteligence inteligencí a nebo je inteligencí i umělá inteligence – můžeme diskutovat mnohé atributy celého cirkusu, ale v praxi jsou dnešní AI modely někde na úrovní pětiletého dítěte s encyklopedickými znalostmi. Stačí se podívat na vývojovou psychologii a hned je vidět, že nezáměrné fabulace, které jsou u dnešních AI běžné jsou u dětí taky běžné. A i to dítě je obvykle schopno sebereflexe a tvrzení, která v dobré víře jentak vyfabulovalo vyselektovat a seznat za prázdná.
Rychlost vývoje je poměrně vysoká, takže za pár let, možná i dřív se dostane na úrověň gymnaziálního studenta, který fabuluje záměrně s vidinou nějakého cíle a své fabulace dokáže často i celkem sofistikovaně obhájit.
Jsme na prahu změny, která konečně zodpoví otázku duše, svědomí a podobně – zda je sebeuvědomění a s ním související aspekty dané jen živočichům s nějakou kapacitou, nebo je to vlastnost jakékoliv entity, která překonala určitou výpočetní a složitostní úroveň.
Překvapuje mne, že pan Hampl napsal tak levicově laděný článek. Já osobně si naopak myslím, že korporace budou brzy vládnout světu pomocí umělé inteligence bez ohledu na nějakého člověka. To je totiž kapitalismus. Navíc se může ukázat, že umělá inteligence je jistým druhem evoluce lidského druhu, která snad jednou překlene náš největší hendikep – smrtelnost.
Nevím kde vidíte kapitalismus ve světě, který jej opustil před více než stoletím. Byznys, který se opírá o státní regulace a který by bez nich nepřežil ani měsíc není kapitalistický, ale socialistický – jen to není rudá, ale hnědá forma.
1. problém) lidi po celém světě uvěřili, že žijí v kapitalismu a protože jsou líní se nad čímkoliv zamyslet byť jen na chvilku, pořád jim nedochází, že přeregulovaný apředaněný systém s papírkovou měnou bez vlastní hodnoty kapitalismem opravdu není ani v náznaku.
2. problém) fůra autorit o kapitalismu pořád melduje, u nás třeba Klaus, a utvrzuje lidi, že v něm žijou – a to přesto, že studovaní ekonomové všichni do posledního dobře vědí, že současnost nemá s kapitalismem nic společného.
Jinak pan Hampl je jednověrec, stále věří v reálnost hrozby kovidu i účinnost očkování, takže nevyhnutelně má levicové tendence, bez toho by nedokázal obhajovat reakci na celý ten podvod. Čistě pravicově uvažující jedinec státní řešení nikdy nepodpoří, ani kdyby jej v daný okamžik považoval za nejlepší, protože každé takové realizované řešení ten stát nevyhnutelně posouvá zásadní formou směrem doleva. Libertarián sice chápe, že by v tom kterém okamžiku možná šlo zachránit víc životů, ale je si vědom zásadních následků a životů zbytečně zmařených v dohledné budoucnosti v důsledku takového řešení. Tím pan Hampl není, v zásadě je zastáncem státních řešení, je to vidět i z jeho knih, kde průběžně balancuje mezi tím, že se snaží komentovat lidem v čem to vlastně žijí a co s tím na straně jedné a snahou hledat státní řešení trablů na straně druhé. Pořád považuje stát za akceschopnou jednotku, která má pro obyvatele nějaký přínos, který převažuje na náklady.
„Tato cesta vyžaduje, aby ti, kdo disponují technologickou mocí, nesli odpovědnost a využívali svou moc ve prospěch lidského rozkvětu.“ — jinými slovy je to plně přiznaná utopie, která tudíž může deklarovat naprosto cokoliv s bezpečným vědomím, že se nikdy nikdo k realizaci nepokusí ani přiblížit.