Doporučovací algoritmy ovlivňují, jaký obsah se nám na internetu zobrazuje. „Systém nečte naše myšlenky a nezná náš skutečný úmysl. Dělá jen odhad z nedokonalých stop,“ říká Patrik Dokoupil z MFF UK, který hledá způsoby, jak uživatelům umožnit větší kontrolu nad tím, co jim algoritmy doporučují.
Podle čeho doporučovací algoritmy poznají, co nabídnout právě mně a co někomu jinému?
Vycházejí z našeho dosavadního chování. Sledují například, co jsme si pustili, na co jsme klikli, co jsme dokoukali, přeskočili nebo si přehráli opakovaně. Využívat mohou také naše hodnocení, odběry, recenze nebo tlačítka typu „To se mi líbí“. Z těchto informací se snaží odhadnout, co by nás mohlo zajímat, a z obrovského množství dostupného obsahu vybrat jen malou část, kterou nám doporučí.
Jak si ale algoritmus z těchto informací vytvoří představu o našem vkusu?
Jedním z klasických principů je takzvané kolaborativní filtrování. Zjednodušeně stojí na myšlence, že lidem s podobným dosavadním chováním by se mohly líbit podobné věci i v budoucnu. Představme si dva diváky: oba viděli celou sérii Harryho Pottera, ale první z nich navíc zhlédl Pána prstenů a Hobita. Systém může usoudit, že jejich vkus je podobný, a druhému doporučit právě Pána prstenů nebo Hobita. Nemusí přitom vůbec „rozumět“ kouzlům ani fantasy, stačí mu vzorec ve společném chování mnoha uživatelů.
Jiný přístup vychází z vlastností samotného obsahu. Pokud jsem si pustil detektivku, systém mi může nabídnout film stejného žánru nebo od stejného režiséra. V praxi se oba přístupy často kombinují a doplňují o další faktory, například popularitu nebo aktuálnost.
Do jaké míry nás tedy algoritmus skutečně zná?
Tady je podle mě důležité zdůraznit jednu věc. Systém nečte naše myšlenky a nezná náš skutečný úmysl. Dělá jen jakýsi odhad z nedokonalých stop. Kliknutí může znamenat opravdový zájem, ale také náhodu, krátkou zvědavost nebo třeba to, že vybírám dárek pro někoho jiného. Systém může po několika rozkliknutých lezeckých botách usoudit, že jsem začal lézt, i když je ve skutečnosti kupuji někomu k narozeninám.
Proto také jiná historie chování typicky vede k jinému doporučení. Z pohledu algoritmu mohou být naopak dva různí lidé do určité míry nerozlišitelní, pokud se na platformě chovají stejně. Personalizace tedy není portrét člověka v lidském smyslu, ale spíše průběžně aktualizovaný odhad jeho zájmů.
Znamená to, že všechno, co na internetu vidíme, je personalizované?
Ne. Žebříček nejčtenějších článků, nové filmy v kinech nebo momentálně populární videa mohou být stejné pro velkou skupinu lidí. Reálná domovská stránka bývá směsí různých přístupů: něco vychází z mé historie, něco z toho, co právě sleduji, něco z obecné popularity a něco z rozhodnutí provozovatele platformy.
Mají všechny naše reakce pro algoritmus stejnou váhu?
Ne. Jinou váhu může mít krátké zastavení u videa, jiné dokoukání až do konce, opakované přehrání, sdílení nebo tlačítko „To mě nezajímá“. Jakou váhu jednotlivé signály dostávají, se mezi platformami liší a zvenčí do toho obvykle nevidíme.
Proč mám někdy pocit, že mi algoritmus nabízí pořád to samé?
Nemusí to být nutně chyba. Pokud si pustím první díl seriálu, je užitečné, když mi systém nabídne druhý. Když se právě učím nový jazyk, několik dalších lekcí může být přesně to, co hledám. Navíc „podobné“ nemusí znamenat „stejné“. Problém nastává ve chvíli, kdy systém zamění momentální zvědavost za dlouhodobý zájem. Pokud mi pak stále dokola nabízí podobný obsah a nedává mi prostor objevit něco nového, je to jeho slabina.
Jak tedy poznat, že algoritmus funguje dobře?
Dobrý doporučovací systém musí hledat rovnováhu mezi tím, co už ví, že mám rád, a tím, co bych mohl teprve objevit. V informatice se tomu říká dilema mezi využíváním známého a objevováním nového. Je to podobné jako rozhodování, kam jít na oběd. Mohu znovu zvolit restauraci, ve které mi vždy chutnalo, nebo zkusit nový podnik. V prvním případě téměř nic neriskuji, ve druhém můžu být zklamaný, ale také objevit své nové oblíbené místo.
Stejně je to s doporučováním. Systém, který by jen opakoval osvědčené věci, by časem nudil. Naopak systém, který by jen experimentoval, by často nabízel úplně nerelevantní obsah. Správná odpověď proto neleží ani na jednom z těchto extrémů.
Ve svém výzkumu hledáte způsoby, jak dát uživatelům větší kontrolu nad tím, co se jim doporučuje. Jak by to mohlo vypadat v praxi? Mohli bychom si třeba sami nastavit, že chceme pestřejší doporučení, nebo naopak co nejpřesnější personalizaci?
Kontrola může probíhat na několika úrovních. Nejjednodušší je ovlivnit témata nebo žánry. Mohu systému říct například: „Chci více sportovních dokumentů a méně reality show.“ Nebo upřesnit, že mám sice rád sport, ale dnes večer nechci přenos ani dokument, nýbrž celovečerní film se sportovní tematikou.
Druhá možnost se netýká konkrétního tématu, ale celé nabídky. Uživatel by si mohl nastavit, jestli chce hlavně přesnou personalizaci, nebo naopak pestřejší doporučení a větší prostor pro objevování nových věcí. Mohl by si zvolit více novinek, méně známé tituly nebo naopak osvědčené a populární položky.
Zkoušeli jste něco podobného i ve výzkumu?
Ano. Účastníci si mohli sami upravovat poměr mezi relevancí a pestrostí doporučení. Zajímavé bylo, že jejich konečné nastavení se často výrazně lišilo od toho, co o nich systém odhadoval na základě předchozího chování. To podle mě ukazuje jednu důležitou věc. Z historie kliknutí lze o člověku hodně odvodit, ale ne všechno. To, na co někdo klikal v minulosti, se nemusí shodovat s tím, co chce právě teď. Někdy je proto jednodušší se ho jednoduše zeptat.
A platí, že čím více možností nastavení, tím lépe?
To bych netvrdil. Příliš mnoho voleb může uživatele naopak zahltit. Kontrola musí být srozumitelná a nesmí na člověka přenést veškerou práci.
Navíc ne všechno musí řídit uživatel. Určitou roli bude vždy hrát i samotná platforma. Zpravodajský server může chtít zvýraznit důležité veřejné téma, e-shop sezónní zboží nebo streamovací služba vánoční filmy. Takové zásahy nejsou samy o sobě špatně, měly by ale být co nejtransparentnější. Uživatel by měl poznat, jestli něco vidí kvůli svému vkusu, obecné popularitě, placené propagaci nebo redakčnímu rozhodnutí.
Často se mluví o tom, že nás algoritmy uzavírají do informačních bublin. Je to skutečně tak velký problém?
Upřímná odpověď je, že to není černobílé. Často totiž mícháme dohromady několik různých jevů.
Filtrační bublina označuje situaci, kdy nám personalizovaný systém postupně omezuje výběr informací. Názorová ozvěna neboli echo chamber ale vzniká také tím, že lidé sami vyhledávají komunity a názory, které potvrzují jejich vlastní přesvědčení. A do toho vstupuje ještě naše přirozená tendence věnovat větší pozornost tomu, s čím souhlasíme. Na tom, co vidíme, se proto nepodílí jen algoritmus, ale i naše vlastní chování.
Co o informačních bublinách ukazují dosavadní výzkumy?
Tady také neexistuje jednoduchá odpověď. Neříkají ani to, že jsou bubliny mýtus, ani to, že ovládají každého.
Například audity YouTube ukázaly, že u některých témat může sledování dezinformačních videí zvýšit jejich podíl v dalších doporučeních. Jiné studie ale zároveň ukázaly, že konzumace podobného obsahu je soustředěná u poměrně malé skupiny lidí, kteří ve zvýšené míře sledují podobně orientovaný obsah i mimo YouTube. Algoritmus tedy může existující zájem zesilovat, ale není jeho jedinou příčinou.
Takže bychom problém měli brát vážně?
Určitě bych ho nezlehčoval. Hodně záleží na tématu. Pokud mi algoritmus pořád dokola nabízí stejné recepty nebo vtipná videa, je to spíš otázka pohodlí nebo nudy. Když ale stejným způsobem opakovaně doporučuje zdravotní dezinformace, mohou být následky mnohem závažnější.
Jak tedy podle vás vypadá správná rovnováha?
Nemyslím si, že existuje jedno nastavení pro všechny. Někdo rád objevuje nové věci, jiný chce hlavně spolehlivá doporučení. A stejný člověk může být dobrodružnější při výběru hudby než při hledání zdravotních informací.
Část rovnováhy může hlídat samotný systém tím, že vedle relevance zohlední i pestrost nebo dlouhodobou spokojenost. Část odpovědnosti ale nese i platforma, zejména pokud jde o prokazatelně škodlivý obsah. A důležitou roli by měl mít také uživatel, který by měl mít možnost doporučení do určité míry ovlivnit.
Co je podle vás největší slabinou dnešních doporučovacích algoritmů?
Nejvíc mě znepokojuje určitý rozpor. Současné doporučovací systémy jsou technicky velmi sofistikované, ale pořád neumíme dobře odpovědět na otázku, co je vlastně „dobré doporučení“. Je snadné změřit kliknutí nebo čas strávený v aplikaci. Mnohem hůře ale poznáme, jestli byl člověk opravdu spokojený. Když u videa zůstanu deset minut, systém vidí deset minut pozornosti. Neví ale, jestli jsem byl nadšený, pobouřený, nebo mi video jen běželo na pozadí.
Právě to mi připadá problematické. Jeden člověk chce objevovat nová témata, druhý hledá hlavně spolehlivá doporučení a třetí ocení pestrost. Přesto mají uživatelé jen omezené možnosti tyto preference ovlivnit. Dokážeme velmi přesně optimalizovat čísla, ale méně už přemýšlíme nad tím, jestli tato čísla skutečně odpovídají tomu, co lidé považují za kvalitní doporučení.
To je podle mě největší výzva do budoucna. Nestačí vytvářet stále složitější algoritmy. Potřebujeme lépe měřit, co lidem skutečně přináší hodnotu, sledovat dlouhodobé dopady a dát uživatelům větší možnost doporučení ovlivnit.
Změnil váš výzkum způsob, jakým používáte internet a sociální sítě? Co byste poradil běžným uživatelům?
Strašně rád bych přišel s nějakou chytrou univerzální radou nebo tajným trikem, ale nic takového nemám. Internet používám v zásadě stejně jako ostatní. Jen si možná víc uvědomuji, že každá moje interakce může být pro systém signálem, i když jsem ji tak vůbec nemyslel. Když například ze zvědavosti otevřu nějaký příspěvek a platforma mi pak začne nabízet další podobné, raději použiji tlačítko „Nezajímá mě“ nebo „Zobrazovat méně“, než abych jen doufal, že můj nezájem algoritmus správně odhadne.
Podobně se snažím zbytečně „nenávistně nesledovat“ obsah, který mě jen pobuřuje. Z pohledu algoritmu totiž deset minut strávených u videa nebo dlouhé pročítání diskuse může vypadat jako silný zájem. A když jednorázově hledám něco, co nechci promítnout do budoucích doporučení – třeba vybírám dárek – používám podle možností anonymní okno nebo se nepřihlašuji ke svému běžnému účtu.
| RNDr. Patrik Dokoupil, Ph.D. |
| Působí na Katedře softwarového inženýrství MFF UK. Zkoumá, jak algoritmy doporučují obsah uživatelům, jak vyvažovat přesnost doporučení s pestrostí nabízeného obsahu a jak lidem umožnit větší kontrolu nad tím, co jim digitální platformy zobrazují. Za výzkum v této oblasti získal v roce 2024 na mezinárodní konferenci ACM UMAP ocenění James Chen Best Student Paper Award. |
