HumanAId: AI zaměřená na člověka pro udržitelnou a adaptabilní společnost

FF > Věda a výzkum > HumanAId: AI zaměřená na člověka pro udržitelnou a adaptabilní společnost

O projektu

Projekt HumanAId se zaměřuje na zkoumání využití umělé inteligence (AI), zejména velkých jazykových modelů (LLMs), v různých oblastech společnosti s cílem posílit demokratické procesy, vzdělávání a mezilidskou komunikaci. Projekt jako celek usiluje o lepší pochopení širších sociálních a kulturních důsledků toho, že zařízení a programy založené na umělé inteligenci přebírají komunikační role, které byly dříve spojovány především s lidmi.

Teze

Výchozí tezí je, že generativní AI (tedy umělá inteligence, která může vytvářet text a audiovizuální obsah na základě dat, na kterých je trénována), může významným způsobem pomoci řešení společenských výzev a problémů, jako jsou rozpad tradičních mechanismů veřejné deliberace v demokratické společnosti či nutnost adaptace vzdělávacího systému na realitu 21. století. Zároveň radikální transformace, kterou prudký rozvoj generativní AI přináší, před společnost staví nové výzvy a rizika, pro jejichž úspěšné překonání je nutné porozumět společenským, politickým a etickým rozměrům dopadů AI na celou škálu lidských činností.

  • Klíčovou výzvou je zajistit, aby nástroje umělé inteligence byly v souladu s fakty a hodnotami demokratických společností (alignment). Je nutné vytvořit bezpečné a zodpovědné modely, které budou podporovat společenskou deliberaci jako základ rozhodovacích procesů ve veřejné sféře.
  • Druhou výzvou je integrace nástrojů AI do vzdělávacího procesu. Cílem je analyzovat možnosti jejich efektivního zapojení do různých didaktických metod na základních a středních školách. Součástí řešení bude vytvoření katalogu metod využívajících AI a vývoj experimentální platformy pro formativní hodnocení žáků a podpůrné asistenty optimalizované pro český vzdělávací systém, které budou evaluovány pedagogy.
  • Nezbytnou podmínkou úspěšného a zodpovědného využívání AI je porozumění dynamice komunikace mezi lidmi a těmito systémy. Interdisciplinární výzkum se zaměří na analýzu verbální i neverbální komunikace, analýzu kontextových a kulturních vlivů i principy vzájemné adaptace komunikačních aktérů. Cílem je rozšířit vědecké poznání a vytvořit nový teoretický rámec umožňující rozvoj interpretovatelné a vysvětlitelné AI v široké škále aplikací.

S rozvojem generativních jazykových modelů vyvstává také řada technických, jazykovědných, kognitivních, etických a právních otázek. Mnohé z nich pramení z charakteru těchto modelů jako „černých skříněk“. Projekt se proto zaměří i na hlubší pochopení jejich chování, vztahu výstupů k tréninkovým datům či vícejazyčných schopností. Projekt přímo integruje technologický vývoj v oblasti AI s humanitními a společenskými aspekty s cílem přinést praktická řešení pro zodpovědné a efektivní zapojení umělé inteligence do klíčových oblastí veřejného života.

Základní údaje

Číslo projektu: CZ.02.01.01/00/23_025/0008691

Období realizace: 1. 3. 2025 – 31. 12. 2028

Operační program: Jan Amos Komenský: Společenské a humanitní vědy

Hlavní řešitel: Univerzita Karlova
Filozofická fakulta v kooperaci s Matematicko- fyzikální fakultou a Fakultou sociálních věd

Partneři: Pedagogická fakulta Univerzity Palackého v Olomouci, Filosofický ústav AV ČR, prg.ai, Kampus Hybernská

Odborný manažer:
doc. Mgr. Vít Šisler, Ph.D.

vit.sisler@ff.cuni.cz

Projektový manažer:
Ing. Jan Kulvejt

jan.kulvejt@ff.cuni.cz

Finanční manažerka:
Ing. Iva Mikulášková

mikulaskova@ufal.mff.cuni.cz

Data steward:
Mgr. Kateřina Zvoníková

katerina.zvonikova@ff.cuni.cz

Výzkumné záměry

AI a demokracie

VZ1 se zaměřuje na využití velkých jazykových modelů (LLMs) pro podporu fungování demokratických procesů, zejména pak společenské deliberace.

Vedoucí VZ1:
doc. PhDr. Vít Střítecký, M.Phil., Ph.D.
vit.stritecky@fsv.cuni.cz

Spolupracující instituce:
FSV UK, CETE-P (FLÚ AV ČR), FF UK

AI a didaktika

VZ2 se zaměřuje na využití AI ve školním prostředí a na efektivní a etické zapojení nástrojů generativní AI do didaktických postupů na středních a základních školách.

Vedoucí VZ2:
Mgr. Čeněk Pýcha, Ph.D.
cenek.pycha@ff.cuni.cz

Spolupracující instituce:
FF UK, PdF UPOL, Kampus Hybernská

AI a komunikace

VZ3 se zaměřuje na výzkum komunikace mezi lidmi a AI, zejména na modelování verbální i neverbální komunikace, analýzu kontextových a kulturních vlivů a vzájemnou adaptaci komunikačních aktérů.

Vedoucí VZ3:
PhDr. Helena Lipková, Ph.D.
helena.lipkova@ff.cuni.cz

Spolupracující instituce:
FF UK, CETE-P (FLÚ AV ČR)

AI a věda

VZ4 se zaměřuje na výzkum technických, jazykovědných, kognitivních, etických a právních aspektů velkých jazykových modelů a na adaptaci těchto modelů na úlohy formulované ve VZ1-3.

Vedoucí VZ4:
doc. Mgr. Barbora Vidová Hladká, Ph.D.
hladka@ufal.mff.cuni.cz

Spolupracující instituce:
MFF UK, prg.ai

Tento web vznikl za podpory projektu „AI zaměřená na člověka pro udržitelnou a adaptabilní společnost“, reg. č.: CZ.02.01.01/00/23_025/0008691, spolufinancováno Evropskou unií.