Ahoj, v dnešním podcastu si budeme povídat s Karlem Šafrem, pedagogem, lektorem a výzkumným pracovníkem na Unicorn Vysoké škole. Karel se dlouhodobě věnuje zpracování dat a matematicko-statistickým modelům. Na vysoké škole vyučuje předměty, které kombinují znalosti matematiky, statistiky a programování. Kromě výuky se v rámci Unicorn výzkumného centra věnuje umělé inteligenci a dále působí na VŠE a Českém statistickém úřadě. Karle děkujeme, že jsi přišel.

Ahoj a děkuji za pozvání.

Zajímalo by mě, jak jsi se dostal k práci na Unicorn Vysoké škole a jaké předměty tam učíš?

K této práci jsem se dostal přes současného rektora Honzu Čadila, který mě oslovil, jestli bych se nechtěl věnovat předmětům, které jsou zejména na téma zpracování a analýza dat a v současné době vyučuji právě tyto předměty. Konkrétně se jedná o Interpretaci a vizualizaci dat a nebo vyučuji velmi populární předmět Úvod do strojového učení, protože to statistické strojové učení je věc, které je mi blízká.

Co tě vedlo k rozhodnutí věnovat se zrovna těmto předmětům?

U mě je to dlouhodobý profesní zájem, protože se rád věnuji tématům jako statistické strojové učení popřípadě umělé inteligenci jako celku. A celkově mě téma uchopení dat, nejen čistě teoreticky tzn. věnovat se modelům, ale i prakticky vidět využití těchto modelů, je velmi blízké. Takže pro mě to byla jasná cesta.

Kromě vysokoškolské aktivity se věnuješ i dalším projektům, jaké to jsou?

Věnuji se poměrně dost výzkumným projektům. V současné době působím na několika z nich. Jsou to například projekty na téma predikce burzovních derivátů, kde se studenty, kteří toho pak i využívají v rámci svých diplomových prací, se věnujeme využití statistického strojového učení pro predikci časových řad nebo se věnujeme predikcím dat a desagregace dat pomocí statistického strojového učení. Dále se věnuji zmiňované umělé inteligenci v rámci Unicorn AI Research Centra (URC)[1] , kde vymýšlíme i různá nová řešení přímo pro zákazníky. Podílíme se na projektech, které zpracovává i firma, takže se to dostává i ke koncovým zákazníkům.

Mám rád ten mix, který je velmi příjemný. Zároveň je zde velmi důležité zmínit jednu věc. Jelikož umělá inteligence je velmi dynamický obor a to tak, že to co tady bylo před pěti lety, je už často zastaralé. Je nutné jít velmi rychle s dobou a to mi tato kombinace umožňuje. Kdybych se věnoval například jen firemním projektům, tak věřím, že v dalších strankách bych se mohl zase trochu upozaďovat. Protože nejen, že jde teorie AI dopředu, ale jde i technologie poměrně razantně dopředu a člověk se nemůže uzavřít a věnovat se jenom jednou tématu, aniž by ta ostatní nějak nezanedbal. Jelikož je tento obor velmi dynamický, tak stačí zaspat dva až tři roky a pak už člověk stojí opodál. Tak právě proto mám rád tuhle kombinaci.

A máme zde vůbec dobu, kdy je přítomna umělá inteligence?

To je velmi dobrá otázka. Dalo by se říct, že skoro denně vidíme v novinových titulcích příchod umělé inteligence, že umělá inteligence vezme práci a jaké všechny obory jsou umělou inteligencí ohrožené. Já bych si dovolil heretickou myšlenku, kterou tvrdí relativně málo lidí, ale je už vyslovená. A to je to, že tady ještě žádná umělá inteligence není. Můj názor vyplývá z toho, co je naše očekávání. Když se řekne AI, tak většina lidí si představí záběry z filmů, nějakého robota, který povstal a drancuje svět. V lepším případě zachraňuje svět. Nebo si představí Halla 9000 z Vesmírné Odyssey. Robota, který byl součástí vesmírného korábu a se kterým posádka rozmlouvala. Představí si nějakou bytost, která je samostatná entita, která má z našeho pohledu často nějaké superschopnosti. A tento náš názor formulovaly filmy a knihy a já si myslím, že je velmi zkreslený. To co je umělá inteligence je trošku něco jiného. Není to nějaká entita, která by se sama rozhodovala, že například můj vysavač jednoho dne vstane a podřízne mě v posteli. To si nemyslím. Tak jak chápu umělou inteligenci já, tak je to pořád statistické strojové učení a musíme si uvědomit zásadní věc, že to je pořád matematický model, který je třeba někdy složitý, ale většinou se skládá opravdu jen z maticových operací. Nejvíce tam vstupují derivace, tedy nějaké změny funkcí, což teď není podstatné, ale je to matematický model, který je založený na datech. Taková data jaká dáme na vstupu, tak v lepším případě můžeme očekávat na výstupu, když je model dobře vytvořený. Myslím si, že tady není žádná doba, kdy máme umělou inteligenci v tom smyslu, jak jsme se jí naučili vnímat v posledních 50-90 letech od Isaaca Asimova až po další jiné knihy. A že by to byly samostatně myslící jednotky, které by plánovaly, rozhodovaly, měly nějaká svá přání. Nemají. Většina modelů je vycvičena na datech, které mají nějakou funkci, kterou maximalizují, obvykle to je minimalizace chyby a ta minimalizace chyby je postavená na základě dat, které my předložíme. Každá umělá inteligence, kterou tady máme, ať to jsou třeba velké jazykové modely, které jsou v dnešní době velmi populární jako například ChatGPT nebo nějaký jiný, tak všechny mají konkrétní účel, který jim dal člověk. A fungují přes data, ztrátovou funkci a minimalizaci chyby a nedokážou vystoupit z toho svého rámce, který mu dá výzkumník. Myslím si, že tohle je věc, kterou si spousta lidí neuvědomuje a kouká na umělou inteligenci velmi obecně. Tak jak chápeme my inteligenci jako člověka, tak chápeme inteligenci ve stroji s velkým výkonem a tak to není. Tahle doba, nevím jestli přijde někdy v budoucnu, tady ještě není. Dovolil bych si souhlasit s názorem, že ještě nepřišla doba, kdy by stroje povstaly.

Děkuji za tuto odpověď.

Kde spatřuješ hrozby a rizika AI?

S hrozbami a riziky se setkáváme téměř denně v novinových článcích. Samozřejmě těch hrozeb a rizik je poměrně dost. Jak se objevily velké jazykové modely, tak se hned objevilo využití ve virech. Hackeři dělali to, že zdrojový kód viru nahráli do jazykového modelu a nechali jazykový model předělat tento zdrojový kód. A proč? Protože třeba antiviry fungují na bázi, že analyzují strukturu zdrojových kódů, a když najdou něco podobného, tak to prohlásí za vir, ale jak ten zdrojový kód byl předělaný a měl jinou strukturu, tak to nevypadalo hned na první pohled jako vir. Další velmi negativní použití, v současné době diskutované v akademické sféře, je využití jazykových modelů pro tvorbu závěrečných prací. Z toho důvodu některé univerzity postupně opouští koncept závěrečných prací, zatím jen v bakalářských, a nahrazují je třeba studentskými projekty. Samozřejmě to jsou dopady, které jsou negativní, jsou hrozbou a musí společnost na ně nějak reagovat. Největší problém vidím v tom, zda na to stíháme reagovat. Jestli legislativa, která je často věc na dlouhou trať stíhá adekvátně reagovat. Okolo nás pozorujeme dvě situace. Některé státy na to reagují překotně, což někdy může být i negativní, že situace je přeregulovaná. Nebo na to nereagují vůbec a otevírají divoký západ. Což zase když se vezme, že by AI systémy měly dostávat naše osobní data, dejme tomu nejen v Evropě ale v zahraničí, tak to by mohlo mít také velmi negativní dopad. Takže jsou tu hrozby hlavně v tom, aby společnost zvládla reagovat a zvyknout si. Vezmi si třeba technologie, které dokážou napodobit lidský hlas tak, že by si někdo udělal tvojí pětiminutovou hlasovou nahrávku a na základě nahrávky dokázal přečíst jakýkoliv text tvým hlasem. To je velmi negativní věc. Je vidět, že k tomuto zneužití pomalu dochází a je to vidět především v zahraničí. Nebo se zneužívají falešná videa tzn. Deepfake[2] - to je velké téma. Celkově postrealita, že se nacházíme v době, kdy začneme mít problémy rozlišovat to co je realita a co není. Myslím si, že se všechny tyto problém se dají překonat, jen nás čeká doba, kdy budeme muset hodně změnit nebo spíš vylepšit své vnímání světa v tom smyslu, abychom si toto všechno uvědomovali a dokázali s tím pracovat.

Naopak si myslím že je nutné se s tím naučit pracovat. Snažím se, aby to bylo nějak dostupné i třeba v rámci studentských prací. Je důležité si uvědomit, že AI často nedělá přesně to, co od ní člověk požaduje. Teď se mluví o prompt engineering, což je název proto, být schopen zadávat příkazy tak, aby AI dělala, to co chceme. Myslím si, že to je vlastnost, kterou se budeme muset my jako lidé naučit tzn. jak komunikovat s AI, jak číst výsledky a také jak moc jí důvěřovat. Myslím si, že ve výuce to má svůj smysl, ale je zde nutné vzdělávání a práce s fakty. Tak jako máme vzdělávání studentů, zejména na středních a základních školách, ohledně mediálních schopností, aby studenti byli schopni kriticky pracovat s informacemi, tak si myslím, že je důležité vzdělávání i v oblasti AI. Aby se studenti naučili používat AI nástroje střídmě a v kontextu daného účelu, protože tyto nástroje nejsou dělané k tomu, aby psaly celé práce nebo vytvářely komplexní projekty, ale často jsou trénovaný na datový sadách, které jsou velmi krátké, takže spíše je to taková otázka a odpověď. Myslím že, zejména jazykové modely skončí v nějakých lepších encyklopedií, ale kterým nemůžeme stoprocentně věřit.

Jak je to na Unicorn Vysoké škole? V jakých předmětech se studenti mohou s AI setkat?

V rámci psaní některých projektů povolujeme studentům AI využívat. Je to individuální, vždy záleží na vyučujících a kontextu dané úlohy. Nelze říct, že všude je to žádoucí. Já ji třeba využívám a povoluji v rámci některých závěrečných věcí nebo projektů. V rámci testů, tak tam by se to nemělo využívat, aby to neříkalo rovnou odpověď. Protože jedna věc je to využívat, abych se něco naučil a druhá věc je to využívat k tomu, aby někdo podváděl. Takže když mám prokázat nějaké vlastní znalosti, tak obvykle není žádoucí používat AI. Když naopak mám prokázat nějakou schopnost tvorby něčeho a je to nějaký projekt a daný vyučující to považuje za normální nástroj, tak to používáme. Je to velmi individuální a v dnešní době nelze říct za všechny školy, že by se to povolilo a používalo všude. Řekněme si na rovinu, že cílem testu je ověřit znalost a znalost by neměla být na základě nějakého pravděpodobnostního modelu, ale měl by ji mít daný člověk, takže třeba na testech použití AI nedává smysl.

Ty jsi zmínil, že vznikají závěrečné práce na téma AI. Můžeš nám dát nějaký příklad?

Mám několik studentů, kteří se ve svých závěrečných pracích věnují právě AI. Mám studenta, který se věnuje predikcím časových řad v burzovních operacích. Další hezký příklad, který si myslím, že zaujme, je kdy náš student, který se věnuje analýze rozsudku soudu pomocí jazykových modelů, vytváří vlastní nebo upravuje existující jazykové modely, které dokážou zpracovat soudní rozsudek. Takže si natáhne informace a podklady k soudnímu řízení a na základě toho by ten model doporučil soudní postup nebo predikoval jak soudní řízení dopadne. Dále poměrně hodně studentů se věnuje populární věci, a to je vytváření oponentů do počítačových her, takže nějaká engine na pozadí počítačové hry, která umožňuje hrát proti počítači.

Na jakých projektech spojených s AI spolupracovali studenti Unicorn University?

To jsou právě projekty, kdy na workshopech vytváříme oponenta do počítačové hry. Takže já bych tady poprosil pustit ukázku autíček. Teď můžeme vidět autíčka, která jezdí po počítači. Červené bloky jsou překážky, do kterých naráží. Když vyjeli poprvé, tak všichni hned narazili. A můžeme si všimnout toho, že jak jezdí déle, tak tím mají autíčka lepší schopnost řídit. Teď jezdili skoro celou dobu. Cílem autíček je projet co nejvíc modrých bran a nenarazit do překážky. Můžeme si všimnout toho, že po nějaké době autíčka zvládnou projet a nebo budou jezdit skoro až nekonečno po herní ploše a nebudu mít problém s bouráním do překážek. Tady je zajímavostí, že na pozadí je model umělé inteligence nebo spíše neuronových sítích, který pomáhá autíčku rozhodovat. Úplně první generace autíček, která tam jezdila, měla zcela náhodné koeficienty a teď už tam je autíčko, které systematicky projíždí bránou a nebourá. My tady využíváme takzvaného evolučního algoritmu a dalších jiných nástrojů pro vytvoření chování, které je žádoucí. Tady v tom případě je to autíčko, které bude jezdit a nebude bourat a bude projíždět maximum modrých branek. Je to projekt, který studenti často zpracovávají v rámci předmětu jako je programování pro umělou inteligenci, tedy Úvod do strojového učení.
Pak bych poprosil pustit druhý projekt, kterým jsou piškvorky. Tady vidíme živě trénování umělé inteligence. Umělá inteligence se učí hrát piškvorky. Cílem je vytvořit engine do hry na základě umělá inteligence, který bude schopen hrát proti člověku piškvorky. Zde učím studenty myšlenky a principy vytváření takovýchto herních enginů a zároveň s nimi řeším data, vlastní implementaci a další specifika. Herní enginy je často potřeba trénovat v několika náročnostech tzn. aby toho protihráče hned neporazily nebo aby to nebylo naopak moc jednoduché. Což je věc, se kterou se setkáváme relativně denně a ani o tom nevíme. Zejména lidé, kteří hrají šachy v telefonu nebo jiné hry, tak tam jsou většinou nějací protihráči a ve spoustě případů jsou trénováni nějakým nástrojem umělé inteligence. V šachách je to hodně běžné, ale nejsou to jen šachy, jsou to třeba i závodní simulátory nebo strategie, kde se rozhoduje o nějaké volbě. Je to velmi populární téma mezi studenty. Zrovna teď mám studenta, který se věnuje potencionálnímu využití umělé inteligence v karetní hře blackjack.

Jaká je budoucnost AI na Unicorn Vysoké škole?

V současné době připravujeme nové předměty, které se budou vyučovat. Jsou to právě herní enginy, které jsou velmi populární, takže to bude využití AI v herních enginech. Dále připravujeme nový bakalářský program na téma AI, kde se studenti seznámí se strojovým učením a AI. Umožní jim to pochopit základní principy toho, jak se zpracovávají data a jak se z toho tvoří umělá inteligence.

Další z tvých vyučovaných předmětů jsou Interpretace a prezentace dat a Analýza a vizualizace dat. Myslíš si, že jsou tyto předměty podstatnou složkou pro vzdělávání v IT i ekonomických oborech?

Myslím si, že určitě ano. Pochopit data je velmi důležité. Nejde o to, koukat se na data jen prostřednictvím vzorečků nebo tabulek, vytisknout si data nebo koukat na vzorce, který nám z těch dat vycházejí, když si spočítám průměr. Mylsím si, že zásadní je vizualizace dat tzn. být schopen si na data udělat nějaký graf a nějak si je připravit, transformovat, protože lidský mozek úplně nechápe data prostřednictvím vzorců, ale obvykle chápe data prostřednictvím obrazu nebo nějakého vizuálního vjemu. Takový hezký příklad jsou souhvězdí, když se podíváme na oblohu. Lidé se v průběhu století naučili hvězdy vnímat prostřednictvím souhvězdí a naučili se orientovat ve hvězdách např. věděli, kde je Orion, kde jsou různé další druhy hvězd jako Polárka a věděli a jak se pomocí souhvězdí orientova. Avšak pokud bychom lidem dali kus papíru, kde by byly napsány souřadnice hvězd na obloze, tak by si nikdy nevytvořili úvahu o tom, že máme seskupení hvězd, že tady jsou plejády atd. A to funguje i v analýze dát. Ať jsou to nějaká finanční data, IT data, časové řady na burze, vývoj bitcoinu nebo třeba vývoj HDP, tak si myslím, že strašně zásadní je umět data pochopit a umět s nimi pracovat, když se snažím udělat nějaký model, který bude predikovat nebo se snažím data roztřídit a klasifikovat. Úloha s daty může být všelijaká, ale je velmi důležité umět si data vykreslit, správně je spracovat a vybrat správné grafy. Grafů je v dnešní době neskutečně moc, nejsou to jen základní bodový nebo liniový graf. Potenciál který je za grafy je obrovský a my se tomu na škole velmi věnujeme z toho důvodu, aby studenti byli schopni data velmi efektivně vizualizovat, zpracovat a aby chápali, jaké jsou limity vizualizací. Občas se stává, že lidé dělají špatné grafy aby dokázali pochopit co je potenciál těch dat. V interpretaci a prezentaci dat se věnujeme třeba i dashboardům, grafickým pravidlům pro tvorbu dashboardům a další.

Především vyučuješ v rámci magisterských studijních programů. Je toto studium náročnější než bakalářské? Můžeš nám říct důvod, proč by studenti měli pokračovat v navazujícím studiu?

Magisterské studium nějakým způsobem pokračuje a je to přirozená evoluce. Co se daný člověk naučí v rámci bakalářského studijního programu, tak těmi předměty postupně navazuje na sebe dál a dál. Zároveň si nemyslím, že je to něco nereálného, že si řeknu: “Teď jsem vystudoval bakaláře a bojím se jít na magistra.” Magistra, kterého na škole nabízíme, je utvořený tak, aby studenti mohli plynule navazovat na znalosti získané bakalářským studiem. Aby jim to umožnilo dále se vzdělávat a pokračovat v tom, co se naučili, aby získali další znalosti navíc. V dnešní době AI a celkově zpracování dat velmi důležitá a velká oblast, tak si myslím, že tam je obrovská přidaná hodnota pro studenta a to zejména ve schopnosti práci s daty a myslím si, že to dokáže ocenit i trh práce. Což se ukazuje u datových analytiků, po kterých je vysoká poptávka. Datový analytik, který umí programovat je velmi žádoucí povolání a velmi dobře hodnocené.

Mimo jiné jsi lektorem profesního kurzu od Unicorn University - Datová analýzy v Pythonu. Můžeš nám tento kurz představit? Pro koho je vhodný?

Kurz je vhodný zejména pro lidi, kteří už umí základy Pythonu. Nabízíme dva kurzy a ten můj je už pro pokročilejší. Pokud by někdo neznal základy Pythonu, může začít s kurzem, který nabízí můj kolega. Můj kurz je primárně vhodný pro ty, co už znají základy. V dnešním světě jsou Python a R jedny z nejpoužívanějších jazyků na zpracování dat. V tomto kurzu se věnujeme Pythonu a v budoucnu budeme nabízet kurz i na R - zpracování datových jazyků R. Kurz Datová analýza v Pythonu je velmi žádoucí, a to díky vysoké popularitě samotného jazyka. Kurz je zejména o tom, že vysvětlujeme základní principy, jak se data zpracovávají, takže to není jen o tom, jak data načíst, ale i čištění dat, tedy odstranění nežádoucích jevů a extrémů. Dále se věnujeme základním knihovnám, které jsou v dnešní době nejpoptávanější na trhu práce, jako například knihovna NumPy, nebo Pandas tj. knihovna pro tabulkové uchopení a zpracování dat. Věnujeme se i knihovnám pro analýzu vlastních dat pomocí matematicko-statistických modelů, takže od základních regresních modelů, až po technologie jako jsou Random Forest nebo Adaboost popřípadě se věnujeme právě umělé inteligenci, kde pracujeme s nástroji, které jsou v dnešní době, jak v privátní tak akademické sféře jedny z nejpoužívanějších nástrojů pro vytváření modelů umělé inteligence. Vysvětlujeme, jak s těmito nástroji pracovat a jaké jsou základní principy knihoven, jak vytvořit základní nebo i pokročilejší model AI.

Náš rozhovor se blíží k závěru. Zajímalo by mě, jaké obory mají největší perspektivu v budoucnu a co by si studoval ty, kdyby sis mohl vybrat znova?

To je dobrá otázka. Já bych si asi nevybral obor, který by se profesně zaměřil jen na jeden konkrétní detail, ale určitě bych chtěl takový, který kombinuje znalosti více oborů programování, statistiky a analázy dat, což je třeba obor umělé inteligence, protože to je propojení několika oborů: IT, statistiky a matematiky, takže si myslím že bych si vybral něco takového. A přijde mi to i jako nejzajímavější a nejperspektivnější, protože když se člověk zaměří jenom na jeden konkrétní detail např. na jeden konkrétní jazyk a omezí své vnímání světa na jednu část, tak se pak může po čase stát, že se to na trhu práce přestane poptávat. Takže si myslím, že obor AI by mě lákal nejvíc.

Naším dnešním hostem byl Karel Šafr, AI inženýr, pedagog a lektor vysoké školy. Karle, moc děkujeme

Děkuji za pozvání a děkuji za rozhovor.