Akademik z Ústavu informačních studií a knihovnictví FF UK je součástí nově vzniklé Výzkumné skupiny pro interdisciplinární studium dopadů AI na společnost, jejíž členové budou od nového akademického roku pořádat semináře zaměřené na práci s umělou inteligencí.
Co pro vás znamená „umělá inteligence“?
Intelektuální dobrodružství. Řada postupů v oblasti humanitních věd se špatně dělá ve větším množství, protože závisí na lidském úsudku. Například pokud chcete udělat opravdu dobrou analýzu textu, zabere to spoustu času, a to dokonce i když na to máte nějakou rámcovou metodologii. Nyní ale můžeme aplikovat rámcové metodologie na velké korpusy textů. Nebo můžeme nechat velké jazykové modely simulovat konkrétní výzkumné persony a testovat na nich, jaké budou jejich reakce. To všechno otevírá naprosto nečekané možnosti, které před pár lety přišly na mysl jen málokomu.
Jakým způsobem nově vzniklá skupina zkoumá dopady umělé inteligence na společnost? Jaké má vytyčené hlavní cíle?
Skupina vznikla překotně na jaře letošního roku jako neformální sdružení lidí, kteří si uvědomují, jak radikální změnu může, zejména generativní AI, přinést.
Soustředíme se na čtyři základní oblasti. První se zaměřuje na to, jaký vliv bude mít AI na proměnu pedagogické práce na vysokých školách, a druhá na to, jaký bude mít vliv na akademický výzkum. Třetí oblastí je výzkum dopadu AI na to, jak rozumíme člověku, a konečně pak poslední čtvrtou oblast tvoří zkoumání povahy samotných velkých jazykových modelů. Ke všem těmto oblastem mají odborníci z Filozofické fakulty UK co říct.
Kdo všechno je do projektu zapojený?
Prozatím se zapojilo kolem 50 lidí do mailingové skupiny a z toho přibližně deset lidí tvoří jádro. Pokud jde o zapojená pracoviště, pak je to velmi pestré, převažují většinou jazykově orientované obory a knihovníci. Myslím, že se to ale ještě bude v nejbližších měsících měnit.
Pro studenty se na FF UK připravujete nový kurz v rámci rozšířeného společného základu. O jaký kurz jde a co se v něm studenti mohou dozvědět?
Na kurzu pracujeme společně s lidmi z Centra pro digital humanities (FF UK). Je proto pojatý jako úvod do digitálních metod zkoumání v oblasti humanitních a sociálních věd v jejich šíři. Studenti projdou jak základy digital humanities, tak základy výzkumu asistovaného umělou inteligencí. Zapsat si ho může posluchač jakéhokoliv oboru, protože na fakultě podle mne není obor, který by nemohl využívat digitální metody výzkumu.
Připravují se na FF UK ještě nějaké další semináře, popřípadě workshopy?
Pokud vím, tak bude od září na fakultě seminářů k AI víc. V nabídce jsou i kurzy Matematicko-fyzikální fakulty UK, takže myslím, že si každý může najít svoje. V rámci pracovní skupiny na FF UK plánujeme praktické workshopy také pro pedagogy. První se ostatně uskutečnil už koncem června.
Má smysl umělou inteligenci využívat ve výuce jak přírodních věd, tak i humanitních?
Samozřejmě! Je to něco jako asistent při práci. Začali jsme místo tužky a papíru používat logaritmická pravítka a pak kalkulačky, protože to prostě bylo lepší. Tyto nástroje za nás udělali poměrně nezáživnou práci a vědci se mohli věnovat tomu zábavnějšímu. Stejně tak to bude s AI.
Ve společnosti roste strach humanitně zaměřených lidí, že se jejich práce stane nadbytečnou, protože ji umělá inteligence dovede udělat rychleji a kvalitněji. Jak byste na tuto tíseň reagoval a jaká je v tomto světle budoucnost humanitního vědce?
Myslím, že AI práci humanitně zaměřených lidí promění. I kdyby se zastavil vývoj teď, tak schopnosti velkých jazykových modelů už mohou zásadně změnit způsob jejich práce, a ano, část té práce nahradí. Teď jsem v momentu popírání. Řada lidí si říká, že to jsou jen mechaničtí papoušci, kteří opakují, co slyšeli. Jenže realita je taková, že dnes velké jazykové modely poráží v řadě oblastí většinu lidské populace.
Nicméně pořád je tu jedna věc: modely jako GPT-4 nic nechtějí, nemají vlastní intencionalitu, nemají schopnost chtít něčeho dosáhnout. Možná ji budou mít, ale zatím ne. Takže síla humanitně zaměřených lidí se teď musí zaměřit právě na tuto oblast – co chceme a jakou cenu jsme ochotni zaplatit za pohodlí, které nám AI může přinést. Umělá inteligence nám může skvěle pomoci, ale v chtění nás nenahradí. Zatím.
Velkým současným tématem je také šíření dezinformací na internetu. Změní umělá inteligence způsob, jakým se budou nepravdivé informace šířit, ale i odkrývat? Bude pro běžného uživatele náročnější takovou dezinformaci odhalit?
Faktem je, že umělá inteligence je schopná poměrně solidně detekovat texty, která mají prvky konspiračních teorií, stejně jako je umí produkovat. Uvidíme tedy podobné závody jako mezi spamem v e-mailu a antispamovou ochranou. Nebojím se tedy ani tak oblasti dezinformací, ale spíše kognitivní manipulace připravené pro konkrétního jedince. Umím si představit natolik personalizovaný obsah, že bude schopen při manipulacích využívat velké jemnosti.
Nejznámější současný model umělé inteligence Chat GPT je založen na obrovském souboru textových dat postahovaných z internetu, tedy čistém textu bez obrazových vjemů. Přesto dovede na základě svého modelu vytvářet přesvědčivé obrázky reálného světa. Do jaké míry obsahují psané jazyky informace, které jsou nezbytné k pochopení vnějšího světa?
Pěknou metaforu proto nabízí Honza Kulveit. Podle ní si to trochu můžeme představit ve vztahu k platónské jeskyni. V ní sedí lidé a pozorují stíny okolního světě a povídají si o nich. Ve vedlejší jeskyni sedí mimozemšťan, který ty stíny nevidí. Nicméně ty lidi slyší a učí se, jak jim odpovídat. Nikdy neviděl nic, o čem mluví, ale to neznamená, že jeho věty nemluví o světě stínů, který vidíme v té jeskyni i my.
V populární představě sci-fi knih i filmů převezme v budoucnu stroj kontrolu nad lidmi a skončí tak éra lidstva. Jak byste na tuto představu reagoval v kontextu dnešního rozmachu umělé inteligence? Je to reálné?
Upřímně nevím. Dokud nezíská AI svoji vlastní intencionalitu, dokud se nestane sama agentní a nezačne sama něco chtít, tak se toho neobávám. Nicméně není jasné, zda k tomu skutečně nemůže dojít. Myslím, že to uvidíme během pár let.
Mgr. Josef Šlerka, Ph.D., vystudoval estetiku na FF UK, kde následně vystudoval doktorský studijní program Informační věda. Aktuálně je vedoucím oboru Studia nových médií na Ústavu informačních studií a knihovnictví FF UK. V roce 2014 byl v rámci cen českého internetu Křišťálová Lupa zvolen odbornou porotou „Osobností roku“.
Michal Otáhal
