legální definice
AI gramotnost
AI literacy
Stejně jako digitální gramotnost pomáhá občanům bezpečně a efektivně používat technologie, poskytuje nám AI gramotnost jistotu, že rozumíme hrozbám i příležitostem, které přináší zavádění umělé inteligence. Díky ní dokážeme plánovat projekty tak, aby byly bezpečné, transparentní a přínosné pro občany.
AI gramotnost zahrnuje dovednosti, znalosti a chápání, které poskytovatelům, zavádějícím subjektům a dotčeným osobám umožňují, aby s přihlédnutím k jejich příslušným právům a povinnostem v souvislosti s tímto nařízením zaváděli systémy AI informovaným způsobem a aby si byli vědomi možností a rizik spojených s AI i možných škod, které může způsobit (čl. 3 odst. 56 nařízení o umělé inteligenci).
AI gramotnost je součástí širšího spektra gramotností: stejně jako čtenářská gramotnost učí porozumět textu, finanční gramotnost pomáhá posuzovat ekonomická rizika a přínosy a digitální gramotnost zajišťuje bezpečné a efektivní používání informačních technologií, AI gramotnost poskytuje znalostní rámec pro porozumění tomu, jak systémy umělé inteligence vznikají, jak generují výstupy a jaká s tím souvisí rizika i příležitosti. Tato komplementarita umožňuje činit informovaná, přiměřená a transparentní rozhodnutí při návrhu, nasazení a provozu AI v kontextu veřejné správy.
AI gramotnost zahrnuje kognitivní i praktické dovednosti, které umožňují návrhářům, provozovatelům a rozhodovacím orgánům rozpoznat, interpretovat a řídit dopady AI systémů, s přihlédnutím k právům a povinnostem stanoveným nařízením o umělé inteligenci.
Různé druhy gramotnosti
| Typ gramotnosti | Předmět | Přínos pro zavádění AI ve veřejné správě |
|---|---|---|
| Čtenářská gramotnost | Schopnost přesně číst, interpretovat a kriticky hodnotit texty | Pomáhá porozumět technické dokumentaci, smlouvám, posudkům a výsledkům validace. |
| Finanční gramotnost | Posuzování ekonomických rizik, nákladů a přínosů | Umožňuje hodnotit náklady na nákup, provoz a údržbu AI systémů a posuzovat návratnost investic. |
| Digitální gramotnost | Základní dovednosti v používání IT, bezpečnosti a správě dat | Zajišťuje bezpečné nasazení nástrojů, pochopení IT infrastruktury a kybernetické bezpečnosti. |
| Datová gramotnost | Práce s daty: sběr, kvalita, čištění, interpretace | Kritická pro hodnocení kvality trénovacích a testovacích dat a pro nastavení metrik validace. |
| Mediální gramotnost | Kritické vnímání informačních zdrojů a obsahu | Pomáhá rozpoznat zkreslení, manipulace či dezinformace v generovaných výstupech. |
| Právní gramotnost (právní vědomí) | Porozumění základním právním principům, popř. znalost relevantních právních předpisů | Podmiňuje dodržování právních povinností při návrhu a provozu AI systémů. |
| AI gramotnost | Kombinace výše uvedených oblastí + porozumění principům modelování, omezením a chybovým režimům AI | Umožňuje integrovat právní, technické, etické a provozní požadavky do bezpečných a odpovědných projektů. |
AI gramotnost jako právní povinnost
AI gramotnost není pouze doporučením; v kontextu evropské regulace (nařízení o umělé inteligenci) představuje součást povinností, které jsou kladeny na poskytovatele, zavádějící subjekty a další odpovědné osoby. Regulace vyžaduje, aby subjekty vyvíjející nebo nasazující AI systémy disponovaly přiměřenou úrovní znalostí pro:
- identifikaci a řízení rizik souvisejících s AI (risk management),
- zajištění účinného lidského dohledu nad systémem,
- vedení dokumentace o návrhu, testování a provozu systému,
- zabezpečení transparentnosti a informování dotčených osob o použití AI a
- zavedení postupů pro ověřování kvality dat a validaci modelu.
Z praktického hlediska proto AI gramotnost pomáhá organizacím naplňovat požadavky na řízení rizik, transparentnost, odpovědnost a dokumentaci, které jsou v právním rámci explicitně vyžadovány.
AI gramotnost ve veřejné správě
AI gramotnost ve veřejné správě není módní termín, ale praktická schopnost rozumět tomu, jak systémy AI fungují, co umí a kde mají své limity, a dokázat je používat bezpečně, odpovědně a v souladu s právem. V pojetí evropské regulace jde o přiměřenou úroveň znalostí, dovedností a porozumění u osob, které systémy AI navrhují, nasazují nebo s nimi pracují jménem organizace, aby mohly činit informovaná rozhodnutí a předcházet škodám.
Základní právní povinnost je formulována obecně a bez ohledu na sektor: poskytovatelé i zavádějící subjekty musí „v nejvyšší možné míře“ zajistit odpovídající úroveň AI gramotnosti u osob, které jejich jménem systémy vyvíjejí, provozují nebo používají. Míra a obsah gramotnosti se přitom poměřují kontextem použití, odbornou úrovní dotčených osob i charakterem skupin, na něž bude systém působit. Jinými slovy, právo výslovně vyžaduje role a rizikově přiměřenou kompetenci – jinou u právníka, jinou u technika, jinou u pracovníka front-office.
Smyslem AI gramotnosti není pouze schopnost „umět napsat prompt“. Prompt inženýrství je užitečná dovednost, ale skutečná gramotnost sahá hlouběji: zahrnuje porozumění zdrojům dat, mechanismům, jimiž modely generují výstupy, běžným chybovým režimům, práci s nejistotou, hodnocení kvality výstupů a právním povinnostem plynoucím z jejich použití (ochrana osobních údajů, transparentnost, lidský dohled, dokumentace).
Veřejná správa bude podle nařízení zejména v roli zavádějícího subjektu – tím, kdo dává systém do provozu v reálném procesu poskytování veřejné služby. Právě zde se AI gramotnost mění z abstraktního ideálu v materiální předpoklad splnění konkrétních povinností. Zaprvé, čl. 4 ukládá poskytovatelům i zavádějícím subjektům přijmout opatření k zajištění dostatečné úrovně gramotnosti v oblasti AI, přiměřené rolím, kontextu a dotčeným osobám. Zadruhé, čl. 14 vyžaduje, aby vysoce rizikové systémy byly navrženy a provozovány tak, aby umožňovaly účinný lidský dohled, a čl. 26 výslovně stanoví, že dohled přiděluje zavádějící subjekt osobám s potřebnou způsobilostí, školením a autoritou.
Další pojítko představuje posouzení dopadů na základní práva (FRIA) podle čl. 27. Úřad má popsat proces, v němž bude AI užita, identifikovat dotčené skupiny, scénáře použití a rizika a navrhnout mitigace včetně rozdělení rolí a odpovědností. Bez gramotnosti zůstane FRIA pouze formalitou - nedokáže rozlišit statistickou chybu od systémové předpojatosti, odhadnout „rozumně předvídatelné“ způsoby zneužití, ani nastavit prahy a procedury zásahu člověka. Kvalitní FRIA je tedy praktickým testem AI gramotnosti v organizaci.
Neméně podstatná je transparentnost. Čl. 50 ukládá informovat osoby, že komunikují se systémem AI, a označovat synteticky generovaný obsah (text, obraz, audio, video), pokud není z okolností zjevné, že je umělý. Ve veřejné komunikaci – ať už jde o poradenský chatbot, generované vysvětlení rozhodnutí nebo obrázek na úřední desce – se tak zviditelňuje kompetence pracovníků správně rozpoznat, kdy a jak označit výstup, a promítnout tuto skutečnost do dokumentů, webů i spisové služby. AI gramotnost je zde faktickým nosičem transparentnosti: kdo neví, kdy vzniká „syntetický obsah“, ten jej neoznačí.
Tento substanciální vztah mezi gramotností a povinnostmi má i procesní rozměr. Dokumentace o školeních, instrukce k dohledu, manuály pro řešení incidentů, záznamy o rozhodnutích člověka v kritických bodech – to vše slouží nejen jako návod pro praxi, ale i jako důkaz splnění povinností v dohledu či případném soudním sporu. Právě proto Evropská komise v souvislosti se čl. 4 vysvětluje, že vymáhání může mít podobu veřejnoprávního dohledu i soukromoprávní odpovědnosti; kdo zanedbal gramotnost a vyvolal újmu, může nést následky. AI gramotnost tak snižuje sankční i reputační riziko.