Joe Rogan a Tristan Harris o doporučovacích algoritmech

Thumbnail play icon
92 %
Tvoje hodnocení
Počet hodnocení:65
Počet zobrazení:4 436

Tristan Harris je vedoucí organizace Center for Humane Technology a bývalý počítačový expert společnosti Google pro etické otázky, který se veřejně proslavil letošním snímkem Sociální dilema či svou výpovědí před americkým Senátem. Joe Rogan si jej pozval do podcastu, aby společně pohovořili o problematice moderních informačních technologií. Tento úryvek se soustředí na etický aspekt algoritmů pro doporučování obsahu na platformách YouTube či Facebook.

Poznámky:
Thinspirace – v originále thinspiration, složenina slov thin (štíhlý) a inspiration (inspirace), termín z oblasti poruch příjmu potravy.
Renée DiResta – odbornice na média a IT, která se rovněž objevila u Rogana v podcastu (epizoda 1263), kde hovořila o ruských troll farmách, hackingu apod. Je „zajímavostí“, že tato epizoda získala nebývale vysoké množství záporných hodnocení.
Pizzagate – známá konspirační teorie, která spojovala síť amerických pizzerií s organizovanou pedofilií.
Walter Cronkite a Carl Sagan – osobnosti televizních pořadů ze 70. let, Harris jejich jména uvádí pouze jako šablonu pro rutinní vzdělávací tvorbu.
COINTELPRO – akronym Counter Intelligence Program, jednalo se o ilegální americký program z 50. až 70. let k potlačování radikálních či nebezpečných uskupení.
Operace Mockingbird – program CIA z období studené války pro ovlivňování médií a veřejného mínění.
Přehrada Flint – Harris naráží na incident ve státě Michigan, kde byla městu Flint z blízké přehrady déle než rok dodávána zdravotně závadná voda.

V naší sérii přeložených videí z Roganova podcastu jde o první klip, který byl natočen v novém studiu (Rogan se nedávno přestěhoval do Texasu a uzavřel velmi lukrativní smlouvu se společností Spotify). Design nového studia se celosvětově setkal s rozporuplnými reakcemi.

Přepis titulků

Měli bychom se soustředit na asymetrii moci. Říkám to i ve filmu, bereme své prastaré mozkové vybavení, prefrontální kortex, který se používá pro akci zaměřenou na cíl, sebekontrolu, sílu vůle, zdrženlivost, zkoušku s marshmallow, nedáš si marshmallow teď, počkáš na dvě později. To vše probíhá v prefrontálním kortexu. Když si sedneš s myšlenkou: Teď se podívám na jednu věc Facebooku, protože mě kamarád pozval na událost, ten příspěvek musím vidět.

A najednou se přistihneš, jak už hodinu scrolluješ. Řekneš si: Je to moje chyba, měl bych mít více sebekontroly. Ale za obrazovkou, za tím kouskem skla se na tvůj mozek zaměří superpočítač, který předvídá perfektní věc, kterou ti ukáže jako další. A můžeš to cítit, tohle je důležité. Když táhneš prstem, myslíš si, že jen používáš Facebook, prostě se ti ukáže další věc od kamaráda. Ale to se neděje.

Když táhneš prstem, doslova tím budíš superpočítač, avatara, verzi vúdú panenky Joe. A vúdú panenka Joe je jako… Když na Facebooku stále více klikáš, je to jako přidávat panence další vlasy. A tvé lajky jsou pro panenku jako další oblečení. A více sledovací doby videí je pro panenku jako další boty. Vúdú panenka je stále přesnější, čím více klikáš. Toto je ve filmu Sociální dilema, čím více postava tu věc používá, tím vzniká stále přesnější model, se kterým manipuluje AI za obrazovkou.

Myšlenka je v tom, že AI dokáže předvídat a popíchnout panenku tímhle videem, postem od kamaráda, něčím dalším. A najde tu správnou věc, o které ví, že tě tam udrží. Protože už ví, že to samé video, stejný post zvládl udržet dalších 200 milionů vúdú panenek. Jsi stejný jako další panenky. Zde je příklad, na všech platformách je to stejné. Kdybys byl náctiletá dívka a otevřel bys video o dietách na YouTube, 70 % sledovací doby YouTube vychází z doporučení vpravo dole.

Ta věc, která ukazuje další doporučená videa. A co se ukáže náctiletým dívkám, které sledují videa o dietách? Ukazují se videa o anorexii, protože ta lépe udrží pozornost náctiletých dívek. Ne protože jsou pro ně dobrá, protože jim pomůžou. Ony prostě často fungují v udržení pozornosti. Fungují, když už sleduješ videa o dietách? Jo, jsi třináctiletá holka, sleduješ video o dietách, YouTube vzbudí vúdú verzi této dívky a řekne: Mám tu dalších 100 milionů vúdú panenek třináctiletých dívek a všechny tíhnou ke sledování těchto dalších videí.

Vím, že se pro to používá slovo thinspirace. - Cože? - Inspirace k anorexii. Jo, opravdu. YouTube se na tento problém před lety zaměřil, ale když stroj pracuje naslepo, pak jen vybírá věci, které jsou poutavé. Proč zvolili, že nenechají stroj pracovat naslepo s jednou věcí, třeba anorexií?

Teď posouváme konverzaci k cenzurování Twitteru a moderování. Já se na cenzuru a moderování nesoustředím, protože skutečný problém musíš vidět z větší dálky a ptát se, jak funguje celý stroj. Bez ohledu na to, čím začnu, co se mi doporučí jako další? Pokud začneš u videa o druhé světové válce, YouTube doporučí několik videí o popírání holokaustu. Když začneš jako náctiletá dívka u diet, doporučí se videa o anorexii.

V případě Facebooku… Je zde hrozně moc různých příkladů. Facebook ti doporučuje skupiny, které pro tebe považuje za nejpoutavější. Kdybys byl čerstvá maminka, měl jsi tu mou kamarádku Renée DiRestu, pracovali jsme spolu a ona je skvělý příklad, jako čerstvá maminka se přidala do skupiny pro matky, které si samy vyrábí bio jídlo pro děti. A Facebook má postranní lištu s nápisem: Další skupiny, které by vás mohly zajímat.

Co myslíš, že bylo nejpoutavější? Opakuji, že Facebook vybírá, do jaké skupiny bys mohl vstoupit, abys tam trávil co nejvíce času. U skupiny s domácí výrobou jídla bys odhadoval jaké další skupiny? - Nejspíš něco o očkování? - Přesně, anti-vakcíny pro maminky. Když se do té skupiny přidáš, znovu se rozběhne celý proces. Podívej se na Facebook. Ten si říká: Mám 100 milionů vúdú panenek a všechny se přidávají do skupiny „Mamky proti vakcínám“.

Co je dokáže zaujmout na delší dobu, když jim navrhuji jiné skupiny? Jaké skupiny se mohou objevit? Chemtrails, Pizzagate… - Plochá země? - Plochá země, rozhodně. Střídavě skáču mezi YouTube a Facebookem, mají stejnou dynamiku, soutěží o pozornost. YouTube doporučil konspirace o ploché zemi stomilionkrát. Když jsi rodič během covidu a posadíš své děti k YouTube, jako by to byl digitální dudlík, protože musíš pracovat, pak se vrátíš a u večeře ti dítě řekne: Holokaust se nestal a země je placatá.

Lidé se ptají proč a důvodem je toto. A co se týče tvé pointy s jakýmsi moderováním. Můžeme vzít palici, když veřejnost křičí, já a Renée uděláme poprask a podobně. Takový rámus vytváří velká komunita. A oni řeknou: Jasně, máte pravdu, plochou zemi musíme vyřešit.

A doladí algoritmus. Pak lidé udělají poprask kolem těch inspiračních videí pro dětskou anorexii. A oni vyřeší problém. Tím ale začnou konat na základě reakcí. Ale když se podíváš z nadhledu, stále jde o doporučování z tak trochu šílené části YouTube… Jsou problémem doporučení? Protože mně nevadí, že lidé mají směšné představy o duté zemi.

Přijde mi to zábavné. Ale také jsem třiapadesátiletý chlap. Nejsem dvanáctiletý kluk s omezeným vzděláním, který si řekne: Bože můj, vláda nám lže, jsou tu ještěří lidé, kteří žijí v zemi. To je argument o konspiracích, mohou ovlivnit mladé lidi, snadno ovlivnitelné nebo lidi, kteří nemají sofistikovaný smysl k filtrování blbostí. Správně, algoritmy nedělají rozdíl mezi lidmi, kteří se tomu jen smějí, a mezi snadno zranitelnými.

Obecně ti jen řeknou, kdo je zranitelný. Další příklad, o kterém přemýšlím. Když jezdíš po dálnici, Facebook a Google vymýšlí, co ti pošlou, aby tím udržely tvou pozornost. Když se díváš na autonehody, které sleduje každý, podle Facebooku a Googlu chce celý svět sledovat bouračky, prostě je krmí, bouračky, bouračky, bouračky. Algoritmy dělají to, co ve filmu popisuje Guillaume Chaslot, který vynesl informace o doporučovacím systému YouTube.

Ony hledají tvou perfektní cestičku, která tě udrží na 5 hodin. A konspirační teorie, temná zákoutí YouTube, jsou právě ta temná zákoutí, která udrží lidi na 5 hodin. Musíš si uvědomit, že už jsme asi 10 let v tomto rozsáhlém psychologickém pokusu. V každém jazyku, ve stovkách zemí. Jde o stovky jazyků. Toto strhávalo lidi k šílenostem.

Když říkám šílenosti, představ si spektrum na YouTube. Na jedné straně máš klidné věci, Walter Cronkite, Carl Sagan. Pomalé a trochu nudné, ale vzdělávací materiály. A na druhé straně spektra máš to nejšílenější, co můžeš najít. Šílenosti. Je jedno, kde začneš. Můžeš začít s Cronkitem, nebo u šíleností. Ale když budu jako YouTube chtít, abys sledoval více, budu tě strhávat spíše ke klidným věcem, nebo k šílenostem?

- K šílenostem. - Vždy k šílenostem. Představ si, že vychýlíš lidstvo z roviny, třeba jen o 3 stupně. Pak odstoupíš a necháš společnost pokračovat v kurzu. Jaron Lanier to řekl ve filmu. Když vychýlíš společnost o 1 či 2 stupně, je to celý svět. To, co si všichni myslí, čemu věří. Když se podíváš na úroveň toho, jak moc jsou dnes lidé ponoření do konspiračních teorií, a beru na vědomí COINTELPRO, operaci Mockingbird…

Spousta těch věcí je skutečných, neodmítám je kategoricky. Ale ptejme se, jaký je základ věcí, kterým věříme o světě? Stále větší základ je v technologii. Můžeme se dostat k tomu, co se děje v Portlandu. O něm vím jen to, čím mě krmí má sociální média, podle kterých je celé město v plamenech, válečná zóna. Ale pak zavolám tamnímu kamarádovi, který řekne: Je tu krásný den, nikde poblíž se neděje žádné násilí, jde jen o nějaké dva bloky.

A o to jde, křiví se tím náš pohled na realitu. A myslím, že to, čeho se snažil dosáhnout film Sociální dilema a jeho režisér Jeff Orlowski, je otázka, jak se mohla tato společnost zbláznit na všech místech zároveň. Toto se nestalo náhodou, šlo o záměr obchodního modelu. Kdy se ten obchodní model zavedl? Kdy začali používat doporučovací algoritmy?

YouTube byl zpočátku jen série videí, neměl sekci s doporučeními. Kdy to bylo? To je dobrá otázka… Původní YouTube sloužil jen k postování videí, lidé mohli prostě jít na URL a posílat ji dál. Oni museli vyřešit… Když se soupeření o pozornost zintenzivnilo, museli vyřešit, jak si tě udrží.

Pokud si dobře pamatuji, doporučená videa vpravo se objevila dost brzy. Šlo o určitou inovaci, která měla udržet lidi u YouTube. Jakmile lidé na YouTube neustále sledují videa, YouTube může slíbit novým lidem, kteří budou nahrávat videa: Když to nahraješ k nám, získáš více zhlédnutí než na Vimeo. O to jde. Zrovna teď mám v mobilu TikTok. Ty máš v mobilu TikTok? Samozřejmě bych neměl, je to spíš pro účely výzkumu.

Aha, výzkum. - Umíš s ním vůbec zacházet? - Ne. - Dvanáctiletá dcera je tím posedlá. - Vážně? Jo, nevydrží chvíli sedět. Když 5 minut nic nedělá, začne s tím… Začne s TikTokem. Rok 2012. Takže Mayové měli pravdu. V roce 2012 oznámila platforma vylepšení objevem systému navrženého k rozpoznání videí, která chtějí lidé sledovat.

Upřednostněním videí, která udrží pozornost, a navyšováním času, který uživatel stráví na platformě, YouTube zajistí inzerentům poskytování hodnotného a kvalitního zážitku. Takže toto byl začátek konce. Jo, na časové ose YouTube šlo o rok 2012… Svět Twitteru a Facebooku představil tlačítka pro retweet a sdílení v období mezi rokem 2009 až 2010. Nakonec se ocitneš ve světě, kde věnujeme nejvíce pozornosti věcem, které pro nás vybírá algoritmus.

Ve filmu je hlubší argument, který možná nepochopili všichni. Tyto technologické systémy převzaly kontrolu nad lidskou volbou. Přebírají kontrolu nad lidstvem, protože kontrolují, jaké máme informace. Přemýšlej o volbách. Myslím, že Facebook je tak trochu volební stroj. Nepřímý volební stroj, jelikož kontroluje informace, které dostává celá společnost během 4 let.

Pak podle těchto informací všichni volí. Můžeš říct, že rádio a televize politicky stranily už dříve. Ale rádio a televize často získávají své novinky z Twitteru. A Twitter doporučuje věci na základě těchto algoritmů. Když kontroluješ informace, které dostává celá populace, ovládáš jejich volbu. Jako armáda. Mám-li rozhodit tvou armádu, chci kontrolovat její informace. Chci zmást nepřítele.

A informační trychtýř je přesně tou věcí, která byla narušena. Pro naše myšlení je to přehrada Flint. Překlad: L1ght www.videacesky.cz

Komentáře (10)

Zrušit a napsat nový komentář

Odpovědět

Je potřeba si uvědomit, že každý člověk který je zainteresovaný v nějakým oboru, přikládá svému oboru větší váhu než skutečně má.

A řekl bych, že je dneska mnohem jednoduší než kdy dřív zjistit si, jak věci "opravdu" jsou.

02

Odpovědět

Ten algoritmus nedělá nic jiného, než že nabízí lidem přesně to, co chtějí.
Strávíte na YouTube 5 hodin v kuse koukáním na nesmysly, protože to tak ve skutečnosti chcete, i když si to nehodláte přiznat.

Je to jako kdyby restaurace u vás v ulici vařila každý den přesně to, na co máte zrovna chuť. Budete si stěžovat, že vaří příliš dobře? A pokud se ukáže, že se tam ve výsledku jen každý den cpete smažákem s hranolkama, tak je to přece vaše chyba, chyba vašich stravovacích návyků.

11

Odpovědět

Takový přístup malinko zavání Urzou a mám pocit, že Joe ve videu správně uvádí, kde toto selhává. Necháš dítě jíst každý den smažák a hranolky, protože mu to chutná? Těžko :) Samozřejmě jde o banální příklad a vše je složitější, extrémní nebezpečí prediktivních algoritmů mohou představovat např. volby. Už dnes dokážou algoritmy nakrmené dostatkem dat s vysokou mírou přesnosti odhadnout chování voličů, kteří ještě ani nemusejí mít ve vlastní volbě jasno na vědomé úrovni. Pokud lidé jako Zuckerberg nebo Dorsey disponují takovou informací, co jim zabrání v tom, aby správně zacílenou reklamou foukali do plachty politické straně, která jim zrovna půjde na ruku? A mějme na paměti např. Wisconsin, kde před pár týdny rozhodl ve volbách rozdíl cca 20 000 hlasů.

11

Odpovědět

+L1ghtTen můj komentář byl směrovaný spíš na dospělé publikum. Souhlasím, že děti ještě nemají pořádně vyvinuté kritické myšlení, a tak není vhodné jim dát přístup ke všemu. Pro malé děti existuje např. youtubekids.com, klidně bych byl i pro vytvoření youtubeteens.com pro starší děti třeba do 13 let.

"co jim zabrání v tom, aby správně zacílenou reklamou foukali do plachty..."
To se přece netýká jen Zuckerberga, ale obecně jakéhokoliv hlasu s větším dosahem. Novinky.cz mohou být někým dotované, aby psaly články směřované proti Evropské Unii. Proti vakcínám. Proti Babišovi. Dokaž, že tomu tak není. Nenapadá mě jiné řešení, než prostě kriticky myslet a čerpat informace z více zdrojů.

11

Odpovědět

+jjkDěti jsou takový nejjednodušší příklad, ale platí to i pro dospělé, rozumové schopnosti nejsou podmíněné jen věkem. Nehledě na to, že nezávadnost obsahu na youtubekids a youtubeteens bude kontrolovat co? Opět algoritmus, do kterého nevidíme :)

Jasně, popisuješ influence, který může mít i kdejaká instagramová pipka s opáleným zadkem. To je jedna rovina problému a zde souhlasím. Jenže na ni se váže i další vrstva, a to je síla postavení na trhu. Konkrétně příklad s Novinkami by myslím spadal do sféry placené propagace, která musí být alespoň přiznaná, v opařeném případě lze uplatnit sankci. Funguje nám i zákaz politické propagace na školách apod… Zde jisté regulace jsou. Ale pak máme např. situaci s Twitterem, který ovládá zásadní část globálního trhu (tady už se dotýkám problematiky monopolu) a titěrná skupinka nikým nevolených zazobaných hipsterů dokáže globálně tlačit své světonázory stamilionům, ne-li miliardám lidí, míra kontroly a vymáhání nějaké společenské odpovědnosti zvenčí je naprosto minimální a archaický právní systém je proti digitálnímu světu o 10 tahů pozadu. Důkazem nejsou jen lidé kolem soc. sítí, ale i Snowden, Kim Dotcom atd. Jen kritické myšlení nás nespasí, situace je už prostě příliš komplikovaná pro společnost, kde 3/4 lidí mají IQ v rozmezí 85/115. To je cesta k systému „silní pro silné“, já bych raději něco v duchu „všichni pro všechny“. Možná jsem utopista ;)

10

Odpovědět

+L1ghtJen malá oprava hned na začátku. Prefrontální kortex by bylo možná lepší přeložit jako přední kůra mozková. Je to běžný překlad a lidé si podle mě takto lépe představí, co to je.

00

Odpovědět

Má pravdu, předseda, i když já jsem na to celkem ignorant, už to má celosvětové celospolečenské důsledky. Američani jsou hodně rozdělení a myslím si, že asociální sítě jsou toho podstatnou příčinou.

11

Odpovědět

trepe tam o ničom... dozvedel sa z toho niekto niečo zaujímavé?
Trepe tam stále o voodoo bábikách, wtf... aj 5 ročný smrad dnes vie, ako funguje posraný algoritmus vyhľadávačov...Mám pocit, že sa chlapec len rád počúva

019

Odpovědět

Podívej se na ten film a pochopíš.

00

Odpovědět

Já jsem pro tyhle doporučení asi spíše nenormální uživatel. Facebook mám, ale nepoužívám a na Youtube mi to stále něco doporučuje, ale mě to vůbec nezajímá a nebo mi to stále doporučuje videa, která jsem již viděl.

20