Spadá naše firma pro AI Act? Tento průvodce vám poradí krok po kroku...

První otázka: Používáte vůbec AI?

Než začnete řešit regulaci, ujasněte si, co AI Act za umělou inteligenci považuje. Definice je poměrně široká — jde o systém, který na základě vstupů generuje výstupy jako předpovědi, doporučení, rozhodnutí nebo obsah, a to s určitou mírou autonomie. Spadají sem tedy nejen pokročilé jazykové modely typu ChatGPT, ale i systémy strojového učení pro predikci, rozpoznávání obrazu či automatizované rozhodování. Naopak klasický software založený čistě na pevně daných pravidlech (například jednoduchý kalkulátor nebo účetní program bez prediktivních funkcí) pod definici AI nespadá.

Vaše odpoveď?
ANO, používáme AI = pokračujte k další otázce. NE, používáme pouze klasický software = AI Act se vás netýká, ale zvažte, zda se situace v budoucnu nezmění.

Druhá otázka: Jaká je vaše role?

AI Act rozlišuje několik rolí a každá má jiné povinnosti. Poskytovatel je ten, kdo AI systém vyvíjí nebo nechává vyvinout a uvádí jej na trh pod vlastním jménem. Nasazovatel je ten, kdo AI systém používá v rámci své profesionální činnosti — tedy typicky firma, která nasadí hotové řešení od dodavatele. Dovozce přináší AI systémy ze třetích zemí na evropský trh a distributor je dodává dál v dodavatelském řetězci. Většina českých firem bude v pozici nasazovatele, tedy uživatele hotových AI nástrojů, což přináší mírnější povinnosti než role poskytovatele.

Vaše odpoveď?
POSKYTOVATEL = čekají vás nejrozsáhlejší povinnosti včetně certifikace a dokumentace. NASAZOVATEL = povinnosti jsou mírnější, ale stále reálné — pokračujte k dalším otázkám. DOVOZCE/DISTRIBUTOR = máte specifické povinnosti v dodavatelském řetězci, prostudujte články 26–28 AI Act.

Třetí otázka: Neděláte něco zakázaného?

AI Act některé praktiky zakazuje úplně, bez ohledu na to, jak velká je vaše firma. Zakázané je například používat AI pro skryté podprahové ovlivňování, které může způsobit újmu. Zakázané je zneužívat zranitelnosti konkrétních skupin (věk, zdravotní postižení). Zakázán je sociální kredit — tedy hodnocení lidí na základě jejich chování vedoucí k jejich znevýhodnění v nesouvisejících kontextech. Zakázána je plošná biometrická identifikace na veřejných prostranstvích v reálném čase (s výjimkami pro orgány činné v trestním řízení).

Vaše odpoveď?
ANO, něco z toho děláme = okamžitě přestaňte, hrozí sankce až 35 milionů EUR nebo 7 % obratu. NE, nic z toho neděláme = pokračujte k další otázce.

Čtvrtá otázka: Spadáte do vysoce rizikové kategorie?

Zde se rozhoduje, zda pro vás platí nejpřísnější požadavky. AI Act taxativně vyjmenovává oblasti, kde jsou AI systémy považovány za vysoce rizikové. Patří sem biometrická identifikace a kategorizace osob. Patří sem řízení kritické infrastruktury jako energetika, doprava nebo vodárenství. Patří sem rozhodování o přístupu ke vzdělávání, tedy například systémy pro přijímací řízení nebo hodnocení studentů. Patří sem rozhodování v oblasti zaměstnanosti — nábor, hodnocení výkonu, povyšování nebo propouštění. Patří sem hodnocení přístupu k základním službám, například posuzování žádostí o úvěr nebo pojištění. A patří sem i systémy používané v oblasti vymáhání práva, migrace a justice.

Vaše odpoveď?
ANO, náš AI systém rozhoduje v některé z těchto oblastí = spadáte do vysoce rizikové kategorie, čekají vás povinnosti jako řízení rizik, testování, dokumentace, lidský dohled a registrace v evropské databázi. NE, v žádné z těchto oblastí nepůsobíme = pokračujte k další otázce.

Pátá otázka: Interagují s vaší AI lidé, aniž by to věděli?

I když nespadáte do vysoce rizikové kategorie, můžete mít transparenční povinnosti. Pokud provozujete chatbota, musíte uživatele informovat, že komunikují se strojem. Pokud generujete nebo upravujete obsah pomocí AI (texty, obrázky, zvuk, video), musíte tento obsah jako AI-generovaný označit. Totéž platí pro deepfakes — syntetický obsah zobrazující skutečné osoby musí být jasně označen.

Vaše odpoveď?
ANO, máme chatbota nebo generujeme AI obsah = zaveďte označování a informujte uživatele. NE, AI používáme pouze interně bez kontaktu s veřejností = transparenční povinnosti se vás netýkají, ale pokračujte k další otázce.

Šestá otázka: Jsou vaši lidé AI gramotní?

Toto je povinnost, která se týká prakticky každé firmy používající AI, bez ohledu na rizikovost systému. Článek 4 AI Act ukládá poskytovatelům i nasazovatelům povinnost zajistit, aby jejich personál a další osoby pracující s AI systémy měly dostatečnou úroveň AI gramotnosti. Co to konkrétně znamená? Zaměstnanci musí rozumět tomu, jak AI systémy fungují, jaké mají možnosti a limity, a musí být schopni je používat zodpovědně s ohledem na potenciální rizika. Tato povinnost nabývá účinnosti 2. února 2025, tedy dříve než většina ostatních ustanovení.

Vaše odpoveď?
ANO, naši zaměstnanci jsou proškoleni = máte splněno, ale udržujte znalosti aktuální. NE, systematické vzdělávání nemáme = zajistěte školení do února 2025, například prostřednictvím kurzu „Zodpovědné využívání generativní AI" na platformě AIedu.cz, který je navržen právě s ohledem na požadavky AI Act.

Sedmá otázka: Jste malá nebo střední firma?

AI Act obsahuje určité úlevy pro malé a střední podniky (SME). Týkají se především administrativní zátěže u vysoce rizikových systémů — například zjednodušená dokumentace nebo nižší poplatky za posuzování shody. Nicméně základní povinnosti platí pro všechny bez rozdílu velikosti — včetně požadavku na AI gramotnost.

Vaše odpoveď?
ANO, jsme SME a nespadáme do vysoce rizikové kategorie = můžete využít zjednodušené postupy. NE, jsme velká firma nebo součást dodavatelského řetězce velkého hráče = úlevy se na vás nevztahují, počítejte s plným rozsahem povinností.

Rychlý test

Pokud jste na první otázku odpověděli NE, AI Act se vás aktuálně netýká. Pokud jste odpověděli ANO a prošli jste všemi otázkami, nyní víte, jaká je vaše role, zda neděláte nic zakázaného, zda spadáte do vysoce rizikové kategorie, jaké máte transparenční povinnosti a zda potřebujete proškolit svůj tým. Na základě těchto odpovědí se odvíjejí vaše konkrétní další kroky - od prosté evidence přes označování AI obsahu až po komplexní systém řízení rizik a dokumentace.