Vážené hodnotitelky, vážení hodnotitelé,
Umělá inteligence (zkr. UI, resp. AI) čím dál více a častěji zasahuje do našich životů, pracovní aspekty nevyjímaje. Mnozí z Vás již mají zkušenosti s využíváním generativní AI, např. v aplikaci ChatGPT. Neuvěřitelný rozmach těchto technologií s sebou přináší řadu rizik a výzev nejen technických a technologických, ale i etických. Na současnou širokou dostupnost generativní AI reaguje řada výzkumných organizací a akademických institucí po celém světě a snaží se vymezit pravidla pro využívání těchto přístupů. Na nastalou situaci musí samozřejmě reagovat i TA ČR.
Vedení TA ČR se v souvislosti s tímto rozhodlo zakázat využívání technologií generativní umělé inteligence k vypracování posudků našimi hodnotiteli.
V rámci tohoto textu zodpovíme některé časté otázky k tomuto tématu.
Co je umělá inteligence a co je to generativní umělá inteligence?
Dle definice lze umělou inteligenci chápat jako schopnost strojů napodobovat lidské schopnosti, jako je uvažování, učení se, plánování nebo kreativita. Umělá inteligence umožňuje technickým systémům reagovat na vjemy z jejich prostředí, řešit problémy a dosahovat určitých cílů.
Může též pracovat samostatně a měnit a přizpůsobovat své jednání na základě vyhodnocení předchozích akcí a jejich dopadů.
Generativní umělá inteligence je část umělé inteligence, která umožňuje vytvářet různé typy obsahu, zejména textu a obrázků, ale také zvuku či jiných typů dat. V případě generování textového obsahu je generativní AI založena typicky na velkých jazykových modelech (zkr. LLM), které jsou natrénovány na obrovských objemech textů a které v podobě neuronové sítě zachycují “pravidelnosti” jazyka. Na základě těchto modelů jsou pak schopny generovat nové texty na základě výzev (tzv. promptů) uživatelů. Pro jednotlivce je prakticky nemožné vytvořit samostatně na základě “svých dat” podobné systémy. Takovéto systémy jsou dostupné v podobě aplikací na webu, což s sebou přináší nejrůznější rizika spojená především s přenosem a zpracováním dat třetími stranami a nemožností tento proces ovlivňovat, resp. kontrolovat.
Velké jazykové modely jsou také v některých případech náchylné k tzv. halucinování, kdy vytvářejí sice plynulý – a na první přečtení – věrohodný text, který ovšem není věcně korektní.
Proč je využívání generativní umělé inteligence k vypracování mého posudku zakázáno?
Při využití generativní umělé inteligence, zejm. té, která je založena na LLM (či jiné generativní technologii) a dostupné prostřednictvím třetích stran, dochází k ohrožení důvěrnosti hodnoticího procesu, ke kterému se zavazujete v Rámcové smlouvě – v bodu IV Důvěrné informace a osobní údaje. Při používání generativní AI jsou informace přenášeny na infrastrukturu (servery) třetích stran a uživatelé tak nemají záruku toho, jak je s údaji nakládáno, komu jsou či budou data zpřístupněna a kým budou v budoucnu využívána. Uživatelé též nemají záruku, že texty vygenerované AI jsou věcně správné a obsahují jen pravdivé údaje, čímž může dojít k poškození uchazečů prostřednictvím takto vytvořených posudků návrhů projektů. Jelikož je TA ČR, resp. každý hodnotitel odpovědný za uchování důvěrných informací, které jsou často i formálně označeny za obchodní tajemství, je riziko úniku těchto svěřených informací tak velké, že je nutné učinit radikální krok explicitního zákazu.
Je možné použít generativní umělou inteligenci pouze k tvorbě části mého posudku?
Generativní umělou inteligenci k vypracování Vašich posudků není dovoleno použít ani v případě, že by se jednalo pouze o část Vašeho posudku. Jak již bylo sděleno v předchozí odpovědi, ohrožuje to důvěrnost hodnoticího procesu a porušili byste tím smluvní vztah s TA ČR definovaný v Rámcové smlouvě, kterou jste se zavázali dodržovat. Generativní umělou inteligenci je možné využít například pro zjištění existujících informací a případně jejich souhrn jako podklad pro utvoření si názoru na předložený posuzovaný projekt.
Jaké jsou postihy v případě, když použiji umělou inteligenci v mém posudku?
V případě porušení smluvních podmínek ze strany hodnotitele může být udělen postih ze strany TA ČR, a to na základě bodu IX. Smluvní pokuta v Rámcové smlouvě.
Závěrem
Tímto Vás prosíme, abyste respektovali toto rozhodnutí a nevyužívali ve svých posudcích jakékoliv formy či postupy, které by mohly vést k (byť nechtěnému) poskytnutí důvěrných informací o návrzích projektů (a projektech) třetím stranám a které by mohly jakkoliv snížit důvěrnost a věrohodnost Vašich posudků. Tento obecný princip se vztahuje zejména na využití generativní AI založené na velkých jazykových modelech.
V případě jakýchkoliv dotazů se můžete obrátit na mail: hodnotitele@tacr.cz.