Facebook, Trump a spol.: Kšeft jménem vztek aneb systém poruch

Vždy, když se někde na internetu objeví jméno Tristana Harrise, je to záruka záblesku zdravého rozumu. Z někdejšího krotitele softwaru u Googlu se stal technolog-disident, člověk, který spolu s hrstkou dalších účinně kritizuje velké technologické firmy za to, co tropí. Důležité slovo je "účinně" – firmy kritizuje kdekdo, ale Harris má oproti většině kritiků tu výhodu, že ví, o čem mluví.

Vztek jako klíč

V půlce dubna vyšel článek v New York Magazine o zlu, jež páchají vládci internetu. Harris v něm má slovo. "Nemůžeme si dovolit obchodní model založený na reklamě," říká. "Co je zadarmo, je ve skutečnosti příliš drahé. Naši společnost to doslova ničí, protože to dává výhodu automatizovaným systémům s vestavěnými chybami. Proč tomu tak je, se nejsnáze vysvětluje na případu Cambridge Analytica. To nebylo zneužití systému, jehož by se kdosi dopustil ze zlé vůle. Byla to platforma sama, která jej k tomu dovedla. Problémem Facebooku je Facebook."

Hned uvidíme, jak je to myšleno. Roger McNamee, jeden z prvních investorů do Facebooku, v jiném článku na nymag.com píše o tom, že klíčem k úspěchu Facebooku je vztek. Zuckerbergově firmě jde o dvě věci – abyste na jejích stránkách strávili co nejvíce času (aby vás zasáhlo co nejvíce reklamy) a abyste toho o sobě sdělili co nejvíce (aby ta reklama byla co nejlépe cílená).

Jak lze dosáhnout obojího najednou? Hrou na city, pochopitelně – čím emocionálněji na vás podnět působí, tím spíše na něj reagujete, čímž splňujete oba požadavky. A jak říká McNamee, ze čtyř základních emocí je "hněv tou nejsnadněji vybuditelnou. Dopamin vylučovaný při vzteku je návykový".

To by vysvětlovalo jednání jak Trumpových fandů, tak progresivních liberálů – oba tábory rozzuří k nepříčetnosti (pokud jejich výchozí stav považujeme za příčetnost, což by se jinak mohlo stát předmětem sporu) prakticky cokoli. Že se tedy právě Facebook stal nástrojem v mimořádně nenávistně vedené předvolební kampani, není náhoda nebo pouhé zneužití jeho modu operandi. Je to onen modus operandi sám o sobě. Jinak řečeno, problém Facebooku je Facebook.

Antikrist, nebo robot?

Jak se to stalo? Je Mark Zuckerberg Antikrist, který vyšplhal na Zemi, aby škodil, vyhrával Trumpovi volby, nechával Tottenham skončit před Arsenalem a vůbec rozséval všeobecný neřád? Nejspíše nikoli, ale pomohl sestrojit parádní ďáblův nástroj. Ona paráda spočívá v tom, že zamlžuje hranici mezi jednáním lidí a softwaru.

V případě obchodního modelu Facebooku využili lidé vlastností systému k prosazení svých zájmů bez ohledu na to, zda takový výsledek tvůrci systému původně zamýšleli. Software dělá totéž.

Přišlo na to děvče jménem Janelle Shane. S doktorským titulem ze slaboproudé elektřiny se začala věnovat nelineárním systémům na pomezí vědy a umění, což ji přivedlo ke zkoumání reakcí systémů umělé inteligence na různé podněty.

Zjistila úžasné věci. Byla svědkem toho, jak letecký simulátor objevil slabé místo svého vlastního softwaru. Když přistál extrémně natvrdo (rozuměj tak, že by skutečné letadlo po takovém přistání nikdo nedal dohromady), jeho software se otřásl, otřel si pot z e-čela, a aby to měl za sebou, zahlásil přistání jako bezchybně hladké.

Jindy Janelle nakrmila počítač obrázky ovcí a řekla mu: "Hele, tohle je ovce, chci, abys to napříště věděl sám.". Kdysi by se to dělalo tak, že by šest set studentů počítalo průměr hlavy ovce v závislosti na směru větru a získaná data by se do softwaru uložila, aby program podle nich poznal ovci od slunečníku, jezevce nebo Gwyneth Paltrowové. Dnes už je možné, aby se systém učil sám. Pokud to ovšem nepřežene, Shaneové program se totiž namísto ovcí naučil parádně rozeznávat malebné obrázky pastvin.

Ještě jiný program dostal úkol sestrojit robota, který by se co nejrychleji pohyboval. Software chvíli přemýšlel a pak postavil vysokou věž, kterou vždy nechal spadnout v žádoucím směru. Vycházel ze správné úvahy, že pokud je kritériem rychlost, nejlépe bude úkol splněn pomocí gravitace. Vědci ovšem chtěli, aby se naučil mít nohy.

Systém není všemocný

Zmíněné AI vynálezy sice měly technicky vzato pravdu, ale mnoho užitku nenadělaly, podobně jako Cambridge Analytica. V obou případech kdosi prozkoumal stávající systém a vyhodnotil, kde je nejzranitelnější. Pak dosáhl svého, aniž by překročil systémově daná pravidla. Když se podíváte na Donalda Trumpa či Andreje Babiše, napadne vás, že je ve hře nějaký podobný proces, jen dotažený ad absurdum – z původní chyby se stalo nové pravidlo.

Pročež je užitečné připomenout poslední případ vzpurného softwaru. Měl za úkol srovnat všechna dostupná čísla v daném systému podle jakéhosi složitého klíče. Software se s tím dvakrát nepáral a všechna čísla vymazal, takže měl do konce šichty klid. Už nebylo co rovnat. Takže kdybyste potřebovali udělat totéž a navždy zrušit svůj účet u Facebooku, tady je návod.