Toto nepsal robot

Dost bylo politiky, aspoň na chvilku; válka a veto jsou zajímavé věci, ale svět má přece jen daleko více rozměrů. Dnes se tedy trochu “zacyklím” a budu psát o psaní.

Zaujal mě totiž příběh autora z povolání, který narazil na nepříjemný problém. Jakýsi softwarový nástroj, kterým jeho hlavní klient prohnal jeho články, totiž ty texty vyhodnotil s pravděpodobností 65-95 % coby práci AI, a klient na to zareagoval okamžitým rozvázáním spolupráce s autorem. Dotyčnému nepomohlo ani to, že byl ochoten předat k osobní kontrole všechny své články včetně historie editace. Jeho odběratelům totiž ani tak nevadilo podezření, že jsou texty “cinknuté”, jako hrozba, že Google, který “umělé” texty penalizuje, přestane jejich draze zaplacené články ukazovat ve svých vyhledávacích službách.

Shrneme-li tuto událost do jedné věty, tak jeden robotvyhodnotil dílo člověka jako práci druhého robota, načež jiní lidé toho člověka raději vyhodili z práce, protože měli strach z toho, co na to celé řekne třetí robot. (Ten, který u Googlu penalizuje podezřelé články.).

Karle, Ondřeji, Arthure, Isaacu … ty války s roboty jste líčili úplně jinak! Minimálně při nich měly svištět nadzvukové střely, blýskat se lasery, a hrdinní nerdi měli zachraňovat krásné dívky z ocelových spárů nelidských strojů. Místo toho tady máme tupé softwarové systémy, které čas od času vyzvracejí nějaké záhadné číslo, a lidstvo se před nimi raději klaní samo. To je ta pravá dystopie, tak ponuře blbá, že jako román by se snad ani neprodávala.

(Abychom byli féroví, některé knihy Janusze Zajdela k tomu nemají daleko, myslím hlavně na Limes inferior s jejím podivným bodovacím systémem na hodnocení lidí.)

Ponecháme-li stranou samotnou otázku robotů a jejich plíživé nadvlády, příběh má ještě jednu zajímavou dimenzi.

Snažíte-li se určit, jestli nastal nějaký jev X (a “X” může být hodně různorodý jev, od “má tenhle pacient tuberkulózu?” až po “podváděl student při maturitě?”), nastávají dva základní a značně odlišné typy chyb, které jsou vzájemně nezávislé a musejí se posuzovat zvlášť.

Ta první chyba se jmenuje falešné negativum a znamená, že nám proklouzl jev, který jsme chtěli ohlídat: podvodník dostal maturitní vysvědčení, chlap kašlající do kapesníku nemá jen obyčejný zánět průdušek atd. Testům, které mají málo falešných negativ, se říká vysoce senzitivní. Velice senzitivní je třeba test obsahu alkoholu v krvi, z toho se žádný spiťar jen tak nevykroutí.

Ta druhá chyba je falešné pozitivum, zdánlivý záchyt jevu tam, kde ve skutečnosti není. Franta podvádí, Karel má rakovinu, prokletý Absurdistán vypustil jadernou raketu na hlavní město svého souseda … jenže se to nestalo. Testu, který má málo falešných pozitiv, se říká vysoce specifický. Příkladem vysoce specifického testu je třeba test na krevní glukózu, zvláště začne-li ukazovat opravdu špatná čísla. Naměří-li si někdo nějakou příšernou hodnotu (20, nebo naopak 2), je téměř vyloučeno, aby byl zdravý. Zdravé tělo si drží hladinu glukózy v poměrně přísných mezích a nedovolí, aby se kymácela až k takovým extrémům.

Můžeme-li věřit tomu chlapíkovi z úvodního příběhu, stal se obětí právě takového falešného pozitiva. Falešná pozitiva přitom obvykle přinášejí víc problémů než falešná negativa. Typicky je totiž s nimi svázána nějaká institucionální reakce: trest, vyšetřování, karanténa, audit, založení spisu, důkladnější kontrola, práce lidí navíc, kteří by třeba mohli dělat něco užitečnějšího. Navíc tam vstupuje do hry neblahá tendence lidí příliš věřit svým strojům a nástrojům: upozorní-li nějaký systém na něco, tak se přece něco muselo stát a my už musíme jen najít viníka. (Nemuselo, a všichni “sprostí podezřelí” mohou být nevinní!)

Toto je jeden z mnoha důvodů, proč jsem zásadním odpůrcem paranoidních iniciativ jako je evropsko-unijní Chat Control 2.0, které chtějí skenovat veškerou textovou komunikaci v EU na stopy dětské pornografie. I kdybychom pominuli celkem zásadní skutečnost, že člověk má mít svoji důstojnost, soukromí, a nemá být terčem preventivních kontrol bez konkrétního důvodu, takové systémy budou generovat příšerná kvanta falešných pozitiv. Skutečné šíření dětské pornografie textovkami je poměrně vzácné, se zavedením podobných nástrojů by se stalo ještě daleko vzácnější (protože ti pachatelé nejsou blbí a začnou hledat jiné, nekontrolované komunikační prostředky), a specificitě robotické kontroly se v tomto směru nedá věřit; při veškerých svých pokrocích nás ti roboti zatím nechápou, a naše díla také ne.

Mezitím vás aspoň ujišťuji, že mé články rozhodně nepíše robot a nikdy je psát nebude. Ač programátor, v tomto zůstávám technologickou konzervou; dokud je budou lidé číst, dotud je budu jako člověk psát.

Na druhou stranu mě vůbec nepřekvapila aféra, kdy oddělení pro diverzitu, inkluzi atd. Vanderbiltovy univerzity vyprodukovalo po jednom střeleckém incidentu na jiné univerzitě vzlykavý hromadný e-mail pro všechny svoje kolegy a zapomnělo z něj před rozesláním smazat poznámku, že text byl vytvořen pomocí ChatGPT. Přesně tenhle druh neslaného-nemastného slovního salátu, namíchaného z módních pojmů, je pro umělou inteligenci jako stvořený.