Dokážou vyhodnotit kvalitu spánku, sbírat data o zdravotním stavu, na základě kterých může lékař stanovit léčbu nebo sestavit doporučení pro udržení dobré kondice. Mohou pomáhat v terapiích. Na první pohled se zdá, že zapojení asistenčních systémů na bázi umělé inteligence má pro člověka jen samá pozitiva. Nějaké to „ale“ se tam však přeci jen najde. Jaké? Tím se zabývá doktorand Fakulty humanitních studií UK Michal Gladiš, který se věnuje etice personalizovaných AI asistentů využívajících rozšířené biometrické technologie.
Tento obor se začal rozvíjet už v devadesátých letech. Propojuje v sobě informatiku, psychologii a kognitivní vědy. „Affective computing“ je interdisciplinární obor, který se věnuje výzkumu a vývoji systémů a zařízení, které dokáží rozpoznat, zpracovat a interpretovat afektivní prožívání jednotlivce nebo je simulovat ve formě emočních projevů. Jde tedy o rozšíření biometrických systémů. Český název se pro něj dosud nevžil.
Tomuto oboru, který teď roste na významu s masivním nástupem umělé inteligence, se věnuje i Michal Gladiš, který ho začal zkoumat na konci svého magisterského studia na FHS UK, kdy se zabýval kyberpropagandou a veřejným míněním. Tehdy se dostal k nástupu technologií, které ovlivňují dění a mínění ve společnosti využívaním systémů umělé inteligence. A protože chtěl toto téma prozkoumat hlouběji, rozhodl se pokračovat v doktorském studiu.
„Můj výzkum se snaží přispět k lepšímu pochopení nových příležitostí a současně rizik spojených s využíváním AI asistentů, ať už jsou ve formě systémů využívajících biometrii, ve kterých můžou být i doporučovací systémy, nebo tzv. avatarů – digitálních lidí, kteří simulují emoce a jsou využíváni například pro práci s autistickými děti, které si na nich trénují rozpoznávání emocí,“ vysvětlil doktorand.
Takové asistenční systémy mají na jedné straně mnoho výhod – pomáhají sledovat zdravotní stav člověka nebo mohou v podobě různých avatarů zlepšit výuku nebo pomáhat při terapiích. Na druhé straně ale v sobě skrývají také možná rizika. Toho, že shromažďují citlivá data a narušují soukromí člověka, si už veřejnost i legislativci všímají. Michal Gladiš však upozorňuje ještě na jeden háček. „Zabývám se problémem přehnaného spoléhání na technologie, tedy automatického přebírání jejich doporučení, a to nejenom na běžné uživatelské úrovni. Mnoho studií ukázalo, že i vysoce specializované profese často podléhají vyhodnocením, které sestavily asistenční systémy, aniž by vzaly v potaz své odborné zkušenosti,“ podotkl Michal Gladiš.
Jeho záměrem není jenom poukazovat na problém, ale také najít možné řešení. „Ať už se člověk pohybuje na jakékoliv internetové stránce nebo používá některou ze sociálních sítí nebo biometrické zařízení, vytváří svoje digitální dvojče, datový a behaviorální profil. Já se snažím navrhnout takový model ekosystému orientovaného na člověka, který by přímo vyzýval uživatele ke spolueditování těchto dat, aby se aktivně podílel na designování vlastního digitálního dvojčete,“ vysvětlil Michal Gladiš. Upozornil při tom také na to, že systémy umělé inteligence mají tendenci doporučovat svým uživatelům třeba to, co je právě nejpopulárnější mezi ostatními, v tom je pochopitelně také problém.
Vedle Fakulty humanitních studií UK, kde se zapojil i do týmu proděkana pro digitalizaci Petra Špeciána, který vytvořil pro oblast AI podpůrnou skupinu pro vyučující, působí Michal Gladiš také na Kempelenově institutu inteligentních technologií v Bratislavě (KInIT). „Zajímavá jsou pro mě pracoviště, která kladou velký důraz na multidisciplinárnost. Takovým ideálním místem je třeba Media Lab na Massachusettském technologickém institutu (MIT), kde spolupracují matematici, kognitivní vědci, psychologové, filozofové, teoretici médií a umělci. Snažím se v Evropě hledat obdobná centra, nejvíc se tomu přibližuje v našem regionu KInIT, což je ve středoevropském kontextu jedinečný projekt, který dělá jak aplikovaný, tak i základní výzkum v oblasti inteligentních technologií a umělé inteligence, přičemž spolupracuje s veřejným i soukromým sektorem. Potkávají se tam lidé napříč obory, pracují na společných projektech a mají excelentní výsledky,“ podotkl doktorand, který se v institutu zapojil do týmu, který se zabývá problematikou etiky a lidských hodnot v inteligentních technologiích.
Druhým místem, kam jezdí pro nové podněty, je Barcelona, kde konzultuje svoji práci v několika výzkumných skupinách. K tomu, aby mohl hledat inspiraci i na dalších světových excelentních pracovištích, mu teď pomohlo získání stipendia SYLFF, které je určené doktorandům sociálně-vědního či humanitního zaměření. „Potřebuji konzultace s odborníky napříč obory, kteří se věnují mému tématu, protože se snažím navrhnout možné řešení v podobě participativního hodnotového modelu ekosystému orientovaného na člověka, který by mohl snížit rizika související s asistenčními systémy, a to vyžaduje pohled i z technických oborů. Stipendium bych tedy rád využil k navazování spoluprací, které mohou zásadním způsobem můj výzkum posunout dopředu,“ věří Michal Gladiš.
| Mgr. Michal Gladiš |
| Absolvent Filozofické fakulty UK a Fakulty humanitních studií UK, kde v současné době pokračuje v doktorském studiu a pracuje na disertaci s názvem Participativní hodnotový model asistenčních systémů umělé inteligence jako příležitost k omezení etických rizik ovlivňování lidské autonomie a sebeurčení. V Institutu aplikované psychoanalýzy absolvoval pětiletý Komplexní výcvik ve skupinové psychoanalytické psychoterapii. Působí také jako konzultant v Kempelenově institutu inteligentních technologií v Bratislavě. |
