Autoři projektu Aignos: ChatGPT není chytřejší Google

„ChatGPT rozkopl dveře světa umělé inteligence, nicméně jedná se jen o jednu z mnoha aplikací. A podobně se i my snažíme koncipovat naše workshopy. Dáváme nástrojům umělé inteligence kontext, do něhož si lidé mohou postupně zasazovat přibývající informace. Ukazujeme jim, co si mohou zkoušet, s čím si mohou hrát a jak k tomu všemu zodpovědně přistupovat,“ říkají zakladatelé projektu Aignos, student strategické komunikace na FSV UK Martin Richter (vpravo) a jeho kolega, absolvent Ústavu translatologie FF UK, Ondřej Hrách. 

Jak se podepsal ChatGPT, veřejně přístupný konverzační nástroj umělé inteligence, na vaší práci, kdy v rámci projektu Aignos jezdíte mimo jiné po školách a děláte osvětu v AI (Artificial Intelligence)?

Ondřej Hrách: Zásadně. Nutno říci, že aktuální vývoj v oblasti AI je tak extrémně dynamický, že i pro nás, kteří se tímto tématem zabýváme, je obtížné ho „usledovat“. O to náročnější je to pro širokou veřejnost nebo právě pedagogy, s nimiž se v rámci našich workshopů setkáváme. Jednoznačně jim z toho jde hlava kolem. I bez AI je na ně vyvíjen velký tlak a teď přichází z úplně nového směru. Přístupnost technologií se i pro řadové občany zásadně posunula a najednou se ve velkém začínají řešit témata typu plagiátorství nebo jak reformulovat zadání úloh, aby dávaly smysl, i pokud při jejich vypracování student použije AI.

Martin Richter: Je to takové rozkopnutí dveří, které mění celé nastavení. Většině lidí AI přišla do života úplně znenadání a teď se s tím musí nějak vyrovnat. Původně se totiž předpokládalo, že automatizace a umělá inteligence zasáhne hlavně rutinní a nekreativní činnosti. Ukazuje se, že vývoj jde opačným směrem.

Je to opravdu tak nečekané? Neviděli jste nějaké záblesky už před koncem minulého roku, kdy společnost Open AI zveřejnila aplikaci ChatGPT?

Martin Richter: Ano, náznaky byly, ony ty generátory textu nejsou až tak nová věc. Přelomové bylo hlavně zveřejnění modelu GPT-3 v červnu 2020. Širší poučená veřejnost už s generátory pracovala a odborníci v nich viděli velký transformativní potenciál už před několika lety. Bylo zřejmé, že jde opravdu o velkou věc, která bude hýbat společností.

Měli jste tedy oproti laikům náskok.

Martin Richter: Ano, ale jak říkal Ondra, i pro nás je obtížné neustále sledovat všechny nové trendy, jet na té vlně. Naštěstí Aignos nejsme jen my dva. Máme tým kolem deseti lidí, tudíž je menší riziko, že nám něco unikne. ChatGPT byl zveřejněn 30. listopadu 2022 a my už jsme ho od 5. prosince představovali ve školách. Tehdy ho ještě nikdo moc neznal, ale v lednu už se na náš dotaz, kdo má s ChatGPT zkušenost, zvedalo stále víc rukou a dneska už je to mezi mladými lidmi běžná věc.

Ondřej Hrách: Za mě jsou ohromně symptomatické výsledky šetření, které provádíme na každém setkání se studenty, a jedna z otázek se týká jejich asociací s umělou inteligencí. Na začátku padala slova jako budoucnost, roboti. Ale teď už je to: ChatGPT, přijdeme o práci. Pro mnoho lidí se ChatGPT stal synonymem AI. Přitom jde o produkt, který je tady s námi pět měsíců. Je neuvěřitelné, jak ohromně rychle prorostl celou společností. Údajně se jedná o nejúspěšnější produkt v historii lidstva, z hlediska náboru uživatelů.

Martin Richter: Je to megatrend. Během prvních dvou měsíců se do něj zaregistrovalo 100 milionů lidí.

Skoro se nabízí otázka, co jste v Aignosu dělali před ChatGPT? Ale vážně - jak jste se k tomuto projektu dostali?

Martin Richter: Seznámili jsme se s Ondrou v roce 2021 na hackathonu o umělé inteligenci, který proběhl u příležitosti stého výročí Čapkovy hry R. U.R. Jmenoval se příznačně Robothon. Já byl jedním z účastníků, studoval jsem strategickou komunikaci na Institutu komunikačních studií a žurnalistiky na FSV UK a AI mě hodně zajímalo. Ondra působil v Robothonu jako mentor pro konverzační systémy za firmu PromethistAI.

Já už měl tehdy za sebou nějaké vzdělávací projekty a říkal jsem si, že tohle je super věc s velkým transformativním potenciálem jak pro tu samotnou technologii, tak pro společnost. Přitom se tomu nikdo moc nevěnuje, je to takové akademické téma, zavřené ve vývojářských firmách, ale širší veřejnost o něm moc neví, což mi přišlo škoda a chtěl jsem s tím něco dělat. Začal jsem o tématu vytvářet první vzdělávací materiály a pilotovat je na školách. Oslovil jsem Ondru, protože…

Ondřej Hrách: Já jsem oslovil tebe.

Vycítil jste potenciál?

Ondřej Hrách: Strašně se mi líbil ten obrovský vzdělávací impakt Martinova nápadu, takže jsem mu napsal, že bych se k němu rád přidal.

Martin Richter: Vytvořili jsme společně základní prototyp vzdělávacích materiálů, které jsme pilotovali na čtyřech školách a postupně do nich přidávali nejnovější dostupné informace. Hodně nám pomohla Laboratoř Nadace Vodafon, což je program na podporu nejrůznějších projektů s celospolečenským přesahem, které využívají inovativní technologie. Poskytli nám finanční prostředky i manažerské zkušenosti a propojili nás na spoustu relevantních lidí. To byl skutečný začátek naší práce, kdy jsme začali opravdu docházet do škol a rozšiřovali tak náš informační rádius. Ale upřímně řečeno, před těmi dvěma lety jsme museli školám docela hodně vysvětlovat, proč je téma umělé inteligence důležité.

A teď už se vám ozývají samy.

Ondřej Hrách: Přesně tak. Od začátku tohoto roku vnímáme zásadní navýšení poptávky. Díky grantu od Ministerstva kultury ČR jsme mohli zorganizovat okolo šedesáti workshopů na základních a středních školách po celé republice, doslova od Aše až po Český Těšín. Každý trvá zhruba čtyři vyučovací hodiny a je to takový vstup do světa AI, primárně s důrazem na kreativní potenciál těchto technologií, jak je využít v tvořivé činnosti. V rámci workshopů proto studenti zkouší tvořit umělecká textová, obrazová, či hudební ve spolupráci s AI. Tento týden, 24. května, pořádáme jejich vernisáž výstavy těch nejpovedenějších studentských děl v Didaktikonu (výstava poběží až do poloviny července – pozn. red.).

Martin Richter: Ze začátku jsme měli celkem obavy, zda dokážeme náš plán naplnit. I naši mentoři nebo garanti z Matfyzu se tvářili celkem skepticky: „Ty jo, šedesát škol, čtyřhodinové besedy, to nebude jednoduché se se školami domluvit.“ A teď zjišťujeme, že kdybychom bývali projekt navýšili na „stovku“, vůbec by to nebylo na škodu.

Na druhou stranu není všem dnům konec – Aignos na mě nepůsobí jako ohraničená krátkodobá aktivita. Naopak její význam, díky stále větší dostupnosti AI technologií, roste.

Martin Richter: Ano, i z tohoto důvodu hledáme dlouhodobější zdroje financování. Snažíme se o takový informační aktivismus – mluvit o tématu všude, kde se dá, protože vidíme, že potenciální rizika AI jsou opravdu velká. Ceníme si přístupu a štědrosti škol, jelikož čtyři hodiny z dopolední výuky skutečně není zanedbatelné číslo. Na druhou stranu je to také důkaz, že školy téma opravdu vnímají jako důležité.

K čemu vlastně teenageři umělou inteligenci používají?

Ondřej Hrách: Velice často právě pro práci do školy. Zrovna na včerejším workshopu mi jeden student říkal, že si nechal od AI vygenerovat strukturu referátu a nápady, s nimiž může dál pracovat. Jindy se nám přihlásil student s tím, že si vygeneroval originální rapový text, a rovnou nám ho i zarecitoval!

Martin Richter: Nedávno jsme byli na akci Samet na školách, kde nám jeden klučina říkal, že využívá AI k vygenerování scénářů pro svoje videa na YouTube, v nichž mluví o filozofii nebo náboženství. Je skvělé, když lidé využívají tyto technologie kreativním způsobem.

Ondřej Hrách: Ale zatím se to týká jen jednotek studentů. Právě ten větší zbytek třídy, který má jen povšechnou zkušenost s AI, se snažíme k podobným tvořivým krokům inspirovat – aby se nebáli si s AI nástroji hrát, zkoušet, co umí a s čím jim mohou pomoci.

Současný boom umělé inteligence mi připomíná „zrození“ internetu. Dobu, kdy jsme přestali hledat informace v knihovnách nebo denním tisku a učili se pracovat s vyhledávači. Přijde mi, že lidé teď vyměnili Google za ChatGPT.

Martin Richter: To je právě ten problém. Spousta lidí má s AI zkušenost, ale ne vždy tu „zdravou“.

K čemu je tedy určena?

Ondřej Hrách: ChatGPT a další velké jazykové modely se naučily generovat smysluplný text, což může být velice užitečné, jenže smysluplný neznamená pravdivý. Vznikají už sice nové typy nástrojů, které propojují jazykové modely s informačními databázemi, ale konkrétně ChatGPT, který nyní používá široká veřejnost, takto nefunguje. Je tudíž informačně nespolehlivý, což pramení z toho, jak byl natrénován. A toto jsou právě rizika, na něž se snažíme v Aignosu silně upozorňovat.

Aby lidé používali AI jinak než Google.

Ondřej Hrách: Ano, protože když budu chtít například vědět, jak velká je žirafa, ChatGPT mi asi taky odpoví správně, ale jisté to není. Přečetl si to ze spousty textů na internetu, z nichž se naučil generovat svůj smysluplný obsah. Který ovšem, jak jsem říkal, není pevně navázán na fakta.

Chápu. Ale pořád mi uniká, jak přesně by ho tedy mohli žáci využívat ke studiu?

Martin Richter: Třeba jako nástroj pro brainstorming na podporu své vlastní tvořivosti či upravování nebo doplňování autorského textu. Studenti nám totiž říkají: „Napsal jsem si pomocí AI seminárku a rovnou mi to vygenerovalo i zdroje.“ Jenže ty zdroje často vůbec neexistují! Nástroj někdy takzvaně halucinuje informace, které nejsou pravdivé, ale znějí důvěryhodně.

Ondřej Hrách: Tváří se to jako smysluplný název nějakého vědeckého článku, který ovšem neexistuje.

Martin Richter: A neexistuje třeba ani jeho autor.

Ondřej Hrách: Generoval jsem například na workshopech, jaké povolání měl otec Jaroslava Haška. V každé z šesti odpovědí uvedl ChatGPT jiné. Jednou to byl švec, podruhé úředník, jindy řezník (ve skutečnosti byl učitel a úředník – pozn. red.). Potíž je, že AI odpovídá neuvěřitelně sebevědomě, a tak uživatel nedokáže rozpoznat míru nejistoty.

Je velmi jednoduché uvěřit tomu, co vidíme před očima.

Martin Richter: Spousta lidí tomu podlehne a považuje to za fakt, přitom informační zkreslení je tam obrovské. ChatGPT vám nenapíše: „Myslím si, že by mohl být švec, ale nejsem si tím úplně jistý.“ Zdůvodňování chybí.

Slyšela jsem zajímavé srovnání, že AI funguje podobně jako lidská komunikace. Když se s někým bavíme, také nemáme stoprocentní jistotu, že mluví pravdu. Může působit velice sebevědomě, a záleží na našich zkušenostech, zda jeho informace rozklíčujeme správně.

Ondřej Hrách: Jenomže my lidé už jsme v interakci s ostatními poměrně dobře vytrénovaní. Život nás naučil, že ne každý člověk je důvěryhodný, a proto se snažíme v lidských výpovědích vnímat i určitou míru nejistoty. S technologiemi se ale pojí určitá fáma objektivnosti vyjadřování, což je obrovský problém.

Martin Richter: Mluví se dokonce o takzvané algoritmické objektivitě, kdy věříme, že algoritmy jsou důvěryhodnější než lidi. Což je jedno z mnoha zkreslení, kterých se my lidé dopouštíme, a úplně stejně se jich dopouští i technologie. Jan Romportl, jeden z odborníků na AI, zdůrazňuje, že schopnost lidí jakožto tvůrců umělé inteligence ovlivňovat modely, aby nelhaly, je zhruba stejná jako schopnost lidí ovlivňovat další lidi, aby nelhali.

Nikdo prý ani pořádně neví, jak přesně obří jazykové modely fungují. Princip je znám, ale už ne, co konkrétně se v nich děje.

Martin Richter: Když má jazykový model více než 175 miliard parametrů, v nichž se něco děje, nejsme schopni inženýrsky identifikovat jednotlivý problém a říct: „Ano, tady v těchto konkrétních parametrech se to takto poskládalo proto a proto…“ Pokud jde o potenciálně rizikovou odpověď typu: „Měli bychom vyhladit lidstvo.“ Nemůžeme vzít „pokažený“ kousek a vyjmout ho ze systému.

Ondřej Hrách: Existují už odborníci, kteří se této takzvané interpretovatelnosti neuronových sítí věnují a snaží se v nich tyto významy hledat. Jenže toto mapování se posouvá kupředu mnohem pomaleji, než bychom potřebovali, abychom těmto velkým systémům rozuměli.

Martin Richter: Obecně bezpečnost AI je opravdu velký problém a proporcionálně se mu věnuje jen zlomek lidí než samotnému vývoji jednotlivých aplikací pracujících na principu umělé inteligence.

Kvůli tomu byl sepsán veřejný dopis (autorem je mezinárodní organizace Future of Life Institute, která dlouhodobě upozorňuje na rizika AI – pozn. red.) k pozastavení vývoje nových jazykových modelů, dokud aspoň částečně neprozkoumáme, co se v AI děje a nevytvoří se regulační mechanismy. Co si o této výzvě myslíte?

Ondřej Hrách: Představa, že ti největší hráči najednou pozastaví vývoj AI, je asi naivní. Na druhou stranu řada lidí, kteří výzvu podepsali, se AI bezpečnosti věnují roky, mají do této problematiky obrovský vhled a rozumí jí. Nejde přitom o to, že by firmy a jednotlivci měli najednou přestat používat a vyvíjet nástroje AI. Navrhovaná dočasná „stopka“ se týká jen těch obřích jazykových modelů, u nichž se už čím dál víc ztrácíme v porozumění tomu, jak vlastně fungují a čeho jsou vůbec schopny. Ve výzvě se doslova píše, že by se měl pozastavit vývoj systémů silnějších než GPT 4, který je aktuálně nejmodernější. Osobně si myslím, že je strašně dobře, že výzva vznikla.

Protože se tím označil konkrétní problém.

Martin Richter: Přesně tak. Stává se z toho téma, což je nesmírně důležité vzhledem k tomu, jak se doteď bezpečnost AI podceňovala. Ano, chci věřit tomu, že rizika jsou jen hypotetická, ale to přece neznamená, že bychom s nimi neměli pracovat. I kdyby to riziko bylo jen jedno procento, stojí to za to. Proto jsem i já rád, že se problém tematizoval.

Ondřej Hrách: Vidíme to i na našich workshopech. Studenti a učitelé se pokaždé ptají na bezpečnostní stránku, což bylo před rokem prakticky nemyslitelné.

Martin Richter: Abych to shrnul, smyslem našich workshopů je názorně ukázat lidem, jak jim může umělá inteligence ulehčit a zefektivnit práci, ale aby zároveň uměli s touto technologií pracovat informovaně a zodpovědně. Aby pochopili jak její potenciál, tak i omezení a rizika.