Jak se politická analýza stala terčem falešných zpráv vytvořených umělou inteligencí

Na YouTube existuje několik kanálů manipulovaných umělou inteligencí, které kradou obraz a hlas některým z nás, nezávislým politickým analytikům. Neúplný seznam zahrnuje jako cíle Johna Mearsheimera, Larryho Johnsona, Richarda Wolffa, Glenna Diesena, Yanise Varoufakise, ekonoma Paula Nogueiru Batistu a mě.

Není náhodou, že jsme všichni nezávislí geopolitickí a geoekonomičtí analytici, většinou se osobně známe a jsme hosty přibližně stejných podcastů.

V mém případě existují kanály v angličtině, portugalštině a dokonce i španělštině: podcasty ve španělštině dělám zřídka, takže i hlas je falešný. V angličtině je hlas obvykle přibližně naklonován. V portugalštině má přízvuk, který já nemám. V několika případech je počet diváků obrovský. V podstatě pocházejí od botů.

Ve všech případech, pokud jde o nás, cíle, jsou všechny tyto kanály falešné. Opakuji: všechny tyto kanály jsou falešné. Alespoň v některých případech mohou být zřízeny „fanoušky“ – jistě s ohledem na zisk prostřednictvím monetizace.

Nebo může být celý podvod součástí něčeho mnohem zlověstnějšího: strategie zaměřené na ztrátu důvěryhodnosti. Jako v operaci obvyklých podezřelých, která má zasít zmatek mezi – početným – publikem několika nezávislých myslitelů.

Není náhodou, že poměrně mnoho diváků je již hluboce zmateno. Nejčastější otázka zní: „Jsi to opravdu ty, nebo umělá inteligence?“ Mnozí zřejmě tyto falešné kanály nahlásili, ale YouTube s nimi zatím vůbec nic neudělal. Algoritmy tyto kanály nadále doporučují širokému publiku.

Jediným realistickým způsobem, jak proti tomuto podvodu bojovat, je podat stížnost na YouTube. To je ale v praxi docela zbytečné. Vedení YouTube se zdá být více zainteresováno v občasném mazání „nevhodných“ kanálů, které prezentují kritické myšlení a analýzy.

Rozluštění kódu podvodu

Quantum Bird, odborník na fyziku a HPC (High Performance Computing), který dříve pracoval v CERN v Ženevě, rozluštil kód podvodu:

„Rozšíření agentů digitálních neuronových sítí s hlubokým učením, které jsou schopné napodobovat psaní, hlas a video lidských bytostí, bylo nevyhnutelné a jejich dopad na vědecký výzkum, tvorbu znalostí a umění obecně má negativní potenciál, který dosud nebyl plně analyzován.“

Dodává:

„Zatímco spisovatelé a akademici podrobně popisují vznik textů, které jsou jim připisovány a do jisté míry kopírují jejich styl a názory, nejnovějším trendem je rozkvět celých kanálů na YouTube a dalších známých platformách velkých technologických společností, které nabízejí videa populárních tvůrců obsahu komunikujících v jejich rodném jazyce nebo jiných jazycích. V několika případech je kvalita tohoto syntetizovaného materiálu dostatečně vysoká, aby jej průměrný divák nemohl okamžitě identifikovat. V kontextu komunity politických analytiků je dopad zřejmý: revize historie, poškození reputace a zkreslení zpráv a analýz.“

A zde Quantum Bird uvádí technický argument:

„Syntéza tohoto typu obsahu vyžaduje dostupnost bohatých vzorků a obrovskou výpočetní kapacitu, která je daleko mimo dosah domácích uživatelů. Zatímco popularita obětí YouTube zaručuje první podmínku, druhá naznačuje činnost velkých státních nebo korporátních aktérů, protože pokročilé modely hlubokého učení musí být vyvinuty a trénovány zpracováním obrovského množství audio a video dat, pokud jde o „diskový prostor“. Zpeněžení obsahu nepokrývá náklady této operace. Ironií je, že právě dostupnost a nadměrná expozice hlasu a videa online umožňuje tento typ útoku.“

A je to tady. Vítejte v éře umělé inteligence, která mění internet v pekelnou mašinu odhodlanou vymazat význam, kulturu a historii – a zasít hluboký intelektuální zmatek. Přesně tak, jak to chce technofeudalismus.

Poznámka editora:

Tohle je velmi nebezpečný trend. Skutečně hrozí, že nebude možné ověřit pravost autora a příspěvků. Teoreticky by se dalo digitálně podepsat každý pravý příspěvek a někde na důvěryhodné stránce umístit takzvaný fingerprint digitálního podpisu, ale kdo ověří důvěryhodnou stránku? A navíc tento krok vyžaduje určité technické znalosti, které běžný čtenář patrně nebude mít. Obávám se, že toto je cesta, jak zdiskreditovat a umravnit (a nakonec umlčet) alternativní autory a analytiky.