Rachel Feltman: Pro Scientific American‚s Věda rychle, Jsem Rachel Feltmanová.
Algoritmus TikTok, který utváří to, co vidí více než miliarda uživatelů, si vytvořil téměř mystickou pověst pro zjišťování, co lidé chtějí sledovat. Tyto síly nejsou ve skutečnosti magické, ale záleží na nich. Algoritmus tak široce používaný jako TikTok může mít obrovský dopad na naši kulturu tím, že určuje, jaké informace lidé dostávají a jak.
Zatímco se TikTok připravuje na spuštění verze aplikace pouze pro USA s většinovým americkým vlastnictvím, vynořuje se spousta otázek o tom, jak by se platforma – a její všemocný algoritmus – mohla změnit. Budou noví investoři přetvářet, jaké druhy obsahu jsou podporovány nebo potlačovány?
O podpoře vědecké žurnalistiky
Pokud se vám tento článek líbí, zvažte podporu naší oceňované žurnalistiky předplatné. Zakoupením předplatného pomáháte zajistit budoucnost působivých příběhů o objevech a nápadech, které formují náš dnešní svět.
Kelley Cotter, odborný asistent na katedře Human-Centered Computing a sociální informatiky na Pensylvánské státní univerzitě, zde rozebere, co víme o vysoce očekávaném prodeji TikTok a co by to mohlo znamenat pro budoucnost platformy.
Moc vám děkuji, že jste dnes přišli na chat.
Kelley Cotter: Jsem samozřejmě rád, že jsem tady, a děkuji za pozvání.
Feltman: Mohl byste tedy začít tím, že nám povíte něco o své minulosti – víte, jaký druh výzkumu děláte?
Cotter: Zkoumám tedy všemožné věci, které se týkají sociálních a etických důsledků digitálních technologií, a zaměřuji se zejména, obvykle, na algoritmy a AI – a možná konkrétněji na algoritmy sociálních médií – a některé z mých hlavních zájmů jsou v tom, jak se lidé o těchto technologiích dozvídají a dávají jim smysl, jak si je představují a co si myslí, že by mohly umožnit.
A pak mám knihu, která je právě ve smlouvě s Oxford University Press o kritické algoritmické gramotnosti, takže jedna z věcí, která mě zajímá, je porozumět tomu, jak nám to, co víme o algoritmech, může pomoci je řídit způsobem zdola nahoru. A také přemýšlení o našem chápání platforem a praktik, které kolem nich máme, jako druhu kontextuálních vhledů, které máme.
Feltman: Co si myslíte, že většina lidí postrádá porozumění algoritmům, které pohánějí sociální média, která používají?
Cotter: Takže když jsem to začal zkoumat, možná téměř před 10 lety, stále byla velká část populace, která si ani pořádně neuvědomovala, že tyto procesy existují, aby třídily a filtrovaly obsah online. Nyní si myslím, že se to docela změnilo tam, kde je – pravděpodobně většina lidí má určité povědomí o tom, že se tyto procesy dějí. Mají určité povědomí o tom, že to, co vidí ve svých kanálech, není všechno, co by mohli vidět. A myslím, že mají také základní znalosti o tom, jak to funguje, takže vědí, že to závisí na jejich aktivitě na stránkách: na věcech, se kterými se zabývají, na věcech, které sledují, na věcech, které sdílejí, na věcech, které komentují, na všech podobných věcech.
Myslím, že cokoli vyšší úrovně, možná složitější technické chápání, je více mimo dosah, ale také způsoby, kterými si lidé uvědomují dopady nebo důsledky algoritmů, jsou také omezené. Lidé si tedy často uvědomují způsoby – jejich vlastních setkání s algoritmy, protože se o nich hodně dozvídáme prostřednictvím vlastních zkušeností. Ale neexistuje tak široké chápání způsobů, jak by algoritmy mohly přetvářet různé širší společenské procesy.
Feltman: Mm. Nedávno jste tedy do konverzace napsali článek o prodeji TikTok a o tom, jak souvisí s druhem nechvalně proslulým algoritmem TikTok. Pro začátek, co víme o prodeji TikTok? co se tam děje?
Cotter: Takže máme nějaký podrobnosti v tomto bodě, ne úplný obrázek, ale máme nějaké podrobnosti. Takže víme, že dohoda vytvoří novou aplikaci pouze pro USA, která se oddělí od původní aplikace; že to bude většinové vlastnictví amerických společností, asi 80 procent, a pak méně než 20 procent mezi čínskými investory, ByteDance – mateřská společnost TikTok.
A hlavní hnací silou vytvoření této dohody původně měly co do činění s obavami, že aplikace bude pod čínskou kontrolou. A jedním z klíčových ohniskových bodů byl algoritmus, protože existovaly obavy ohledně způsobů, jakými by mohl být algoritmus zmanipulován tak, aby utvářel obsah, který uživatelé vidí ve svých zdrojích, způsobem, který se týkal amerických zákonodárců. Algoritmus by tedy byl licencován této nové americké společnosti a oni by jej přeškolili a přestavěli pro aplikaci pouze pro USA.
Feltman: Jo, a proč je osud algoritmu TikTok tak velkou součástí tohoto rozhovoru, víte, dokonce i teď, když by nebyl v rukou cizí mocnosti?
Cotter: Algoritmus je srdcem všeho, co TikTok dělá. Každá platforma sociálních médií se tedy skutečně točí kolem funkcí, které jejich algoritmy provádějí. Algoritmy jsou tedy navrženy tak, aby přizpůsobily obsah uživatelským preferencím, takže jsou navrženy tak, aby byly zkušenosti uživatelů smysluplné a hodnotné; to je tak trochu cíl. Ale také to znamená, že hrají ústřední roli při utváření určité kultury tím, jak zviditelňují nebo zviditelňují určité druhy obsahu.
Takže třídí a filtrují obsah pro lidi a pak také prosazují některé pokyny pro komunitu, které společnosti sociálních médií stanovily, aby se ujistily, že obsah, který lidé vidí v jejich zdrojích, není příliš krvavý nebo nepropaguje násilí nebo uvnitř – historicky existovaly obavy o minimalizaci dezinformací. Existují tedy různé způsoby, jak optimalizovat zdroje, aby zvedly nejlepší obsah a nejlepší obsah pro jednotlivé uživatele.
Feltman: Jako někdo, kdo téměř deset let studuje algoritmy sociálních médií, co je jedinečné na tom, který pohání stránku TikTok „For You“, a to jak ve skutečnosti, algoritmicky, tak možná i způsoby, jakými lidé cítit že to funguje, jestli to má smysl?
Cotter: Ano, algoritmus TikTok je vnímán jako obzvláště dobrý při přizpůsobování obsahu uživatelům. Existuje druh populárního pojetí toho, že zná lidi lépe, než znají sami sebe. A některé z mých výzkumů s kolegy zkoumaly tyto druhy přesvědčení a způsoby, jak se sbližují v této opravdu podivné směsi duchovních přesvědčení a konspiračních teorií, kde někdy existuje dojem, že to, co lidé vidí v jejich zdrojích, je pro ně nějak tak nějak vesmírně předurčeno; je určeno speciálně pro ně. Takže je to skutečně tak – existuje dojem, že algoritmus je velmi výkonný a dobrý pro svůj zamýšlený účel.
V některých ohledech, v mnoha ohledech, se algoritmus nijak zvlášť neliší od jiných algoritmů sociálních médií. Je navržen tak nějak stejným způsobem, kdy cílem je udržet uživatele na webu a přimět je, aby se vraceli. Tak nějak je to optimalizované. A také, stejně jako jiné algoritmy sociálních médií, spoléhá na signály z chování lidí na webu – opět na věci, které se jim líbí, věci, které komentují, věci, které sdílejí, tyto druhy signálů zájmu.
Jeden Wall Street Journal Průzkum ukázal, že doba sledování na TikTok je obzvláště silným signálem zájmu, který algoritmus používá k hodnocení obsahu. Jedním z důvodů, proč by algoritmus TikTok mohl být potenciálně lepší při přizpůsobování obsahu, je povaha formátu krátkého videa, kde je snazší získat informace o tom, co lidi zajímá, na základě délky času, který stráví sledováním daného obsahu oproti jakékoli jiné věci.
Má také další, například jedinečné funkce, které podporují více spojení mezi tvůrci a uživateli. Takže dostaneme, jako je funkce Stitch, kde lidé budou reagovat na různá videa; spojí video od jiného tvůrce a odpoví na něj vlastním videem. Existují zvuky, kde lidé mohou používat podobné zvuky k vytvoření druhu memů a různých konverzací nebo podporovat podobné myšlenky o věcech. Existují tedy způsoby, jak připojení mezi uživateli usnadňují funkce platformy, které by mohly být užitečné pro pochopení uživatelských preferencí.
Není ale zcela jasné, proč je, alespoň tak vnímán, obzvláště dobrý v přizpůsobování obsahu. Máme nějaké informace o tom, jak to funguje, ale je těžké znát jediný důvod, proč by to mohlo být obzvlášť dobré.
Feltman: Takže vzhledem k tomu, co víme o navrhovaných kupcích TikTok a síle algoritmu TikTok, jaké jsou důsledky, pokud prodej proběhne?
Cotter: Ano, protože algoritmus je tak zásadní pro život na platformě, pro to, co to je, záleží na tom, v čí ruce je, protože bude opět přímo utvářet, jak platforma vypadá – jak bude vypadat tato nová americká aplikace.
Takže navrhovaní investoři nebo (investoři), kteří byli sdíleni, jsou jakési známé entity. Oracle je samozřejmě velký a v USA uchovávají data pro TikTok již (několik) let, takže jeden byl – tak nějak vyplynul z tohoto navázaného vztahu. Ale myslím si, že velká obava ohledně jmenovaných investorů spočívá v tom, že se zdá, že všichni mají vazby na Trumpovu administrativu, že jsou ve svých názorech konzervativnější, a to má potenciál změnit druh ideologického sklonu platformy, pokud se investoři rozhodnou, že chtějí nějakým způsobem vyladit algoritmus nebo upravit pokyny komunity pro tuto novou aplikaci, což by mohlo být považováno za nepřijatelné nebo přijatelné.
Takže možná jedna důležitá věc, kterou je třeba poznamenat, je: dříve, když jsme ještě vedli rozhovory o snaze přinést legislativu o zákazu TikTok, obavy zákonodárců, zejména republikánských zákonodárců, spočívaly v tom, že palestinské hashtagy jsou na TikTok větší než izraelské; údajně je tam nějaká nesrovnalost v obsahu. Takže s vlastníkem, který má silné ideologické hledisko a má vůli učinit z toho součást aplikace, je možné prostřednictvím vyladění algoritmu přetvořit celkové složení obsahu na platformě.
Takže to nemusí souviset s vlastnictvím, ale s novou aplikací, protože to budou pouze američtí uživatelé – takže říkají, že bude existovat globální obsah, který bude na platformě stále viditelný, ale uživatelů pro tuto aplikaci bude americká. Můžeme tedy očekávat, že pokud bude tento nový algoritmus, licencovaný od ByteDance, přeškolen pouze na uživatelích v USA, že americké hodnoty, preference a chování, které informují o správě obsahu pomocí algoritmu na webu, můžeme očekávat, že zaznamenáme nějaké jemné posuny, jen kvůli povaze různých datových sad, na kterých je postaven.
A pokud uživatelé vnímají novou aplikaci jako v rukou Trumpových spojenců nebo jako konzervativnější ve svých názorech a mají obavy, že by tito investoři mohli ovlivňovat obsah v aplikaci, můžeme očekávat, že někteří uživatelé aplikaci opustí. Mohlo by to tedy vyústit v situaci, kdy se nejen jedná o – aplikaci, kterou tvoří pouze lidé sídlící v USA, ale pouze podmnožina amerických uživatelů a zejména těch, kteří by možná mohli být správně nakloněni, což by také mělo opět velmi velký dopad na druhy obsahu, který tam vidíte.
Takže nakonec může nová aplikace vypadat drasticky jinak, než vypadá právě teď, v závislosti na tom, co se stane s rozhodnutími učiněnými investory, rozhodnutími uživatelů, tím, kdo zůstane a kdo odejde, a tak dále.
Feltman: Dobře, moc vám děkuji, že jste si o tom s námi přišli promluvit. Pokud tento prodej proběhne, určitě se ozveme, abychom si popovídali.
Cotter: Jo, rád bych si víc povídal. Ještě jednou díky, že mě máš.
Feltman: To je pro dnešní díl vše. Vrátíme se v pátek, abychom zjistili, jak mohou halloweenské pochoutky zahýbat s našimi střevními mikroby.
Věda rychle produkuji já, Rachel Feltman, spolu s Fondou Mwangi a Jeffem DelVisciem. Tuto epizodu upravil Alex Sugiura. Shayna Posses a Aaron Shattuck – podívejte se na naši show. Naši tematickou hudbu složil Dominic Smith. Přihlásit se k odběru Scientific American pro více aktuálních a hloubkových vědeckých zpráv.
Pro Scientific American, tohle je Rachel Feltmanová. Uvidíme se příště!
