Zodpovědné využívání generativní AI
Naučte se používat generativní AI nástroje zodpovědně a v souladu s právními předpisy EU. Kurz pokrývá GDPR, EU AI Act, bezpečnost dat a etické aspekty využívání AI.
7 modulů
29 lekcí
123 minut
Získejte přístup ke kurzu
Jednorázová platba za neomezený přístup ke všem materiálům.
Obsah kurzu
1.1 Proč zodpovědné využívání AI?
Úvod do kurzu
1.2 Přehled regulačního rámce v EU a ČR
EU AI Act, GDPR, autorské právo, české dohledové orgány
1.3 Cíle kurzu a struktura
Co se naučíte v jednotlivých modulech, splnění požadavku AI gramotnosti
2.1 Co je EU AI Act a koho se týká
Historie, role (poskytovatel, nasazovatel, uživatel), základní principy
2.2 Čtyři kategorie rizik AI systémů
Nepřijatelné riziko, vysoké riziko, omezené riziko, minimální riziko
2.3 Povinnost AI gramotnosti
Článek 4 AI Act, co je AI gramotnost, školící požadavky
2.4 Sankce a důsledky nedodržení
Pokuty, reputační škoda, nápravná opatření
2.5 Implementace v České republice
Dohledové orgány, Národní strategie AI, regulační sandbox
3.1 Proč je GDPR klíčové pro používání AI
Základní principy GDPR, případ OpenAI v Itálii
3.2 Právní základ pro používání AI nástrojů
Šest právních základů GDPR, problém bezplatných verzí, DPA
3.3 Automatizované rozhodování a lidský dohled
Článek 22 GDPR, rozdíl mezi lidským dohledem a razítkováním
3.4 DPIA – posouzení vlivu na ochranu údajů
Kdy je DPIA povinné, co obsahuje, proč je důležité
3.5 Přenos dat do USA a EU-US Data Privacy Framework
Historie Safe Harbor a Privacy Shield, aktuální stav, praktická doporučení
4.1 Kdo je autorem AI-generovaného obsahu?
Základní princip: autor = člověk, české soudní rozhodnutí, praktické důsledky
4.2 Vkládání chráněného obsahu do AI
Autorská práva při vkládání, text and data mining, opt-out
4.3 Spory o trénovací data
New York Times vs. OpenAI, Thomson Reuters vs. Ross Intelligence, budoucnost
4.4 Praktická doporučení pro práci s obsahem
Osm praktických rad pro bezpečnou práci s AI a obsahem
5.1 Reálná rizika úniku firemních dat
Případy Samsung, OpenAI, Google, Slack AI, statistiky IBM
5.2 Co nikdy nevkládat do AI nástrojů
Šest kategorií zakázaných informací
5.3 Bezpečné nastavení a používání AI nástrojů
Sedm kroků k bezpečnému používání AI
5.4 Co dělat při bezpečnostním incidentu
Sedm kroků při zjištění úniku dat
6.1 Předsudky a diskriminace v AI
Proč AI diskriminuje, příklady Amazon, zdravotnictví, justice
6.2 Halucinace a faktická přesnost
Co jsou halucinace, proč vznikají, jak se bránit
6.3 Transparentnost – kdy říct, že používáte AI
Zákonné povinnosti, etická doporučení, jak komunikovat
6.4 Odpovědnost za rozhodnutí
Kdo nese odpovědnost, praktické důsledky
7.1 Jak vytvořit firemní AI politiku
Devět klíčových bodů dobré AI politiky
7.2 Workflow pro bezpečné používání AI
Osm kroků při každém použití AI
7.3 Checklist před použitím AI
Pět rychlých otázek před každým použitím
7.4 Shrnutí kurzu a závěrečná doporučení
Rekapitulace všech modulů, sedm závěrečných doporučení
Závěrečný test: Zodpovědné využívání generativní AI
Test se 30 otázkami s výběrem ze 4 odpovědí. Pro úspěšné absolvování kurzu je potřeba 21 správných odpovědí (70%).
Hranice úspěšnosti: 70% • Max. 3 pokusů
Zamčeno
Slovníček pojmů
Klíčové termíny používané v tomto kurzu. Kliknutím na pojem zobrazíte jeho detail.
AI (Artificial Intelligence / Umělá inteligence)
Technologie umožňující počítačům provádět úkoly, které typicky vyžadují lidskou inteligenci - například rozpoznávání obrazu, porozumění jazyku, rozhod...
AI Act (EU AI Act)
Nařízení Evropské unie o umělé inteligenci (Nařízení 2024/1689), které vstoupilo v platnost 1. srpna 2024. První komplexní právní rámec pro regulaci A...
AI gramotnost (AI Literacy)
Povinnost podle EU AI Act zajistit, aby osoby pracující s AI systémy měly dostatečnou úroveň znalostí o fungování AI, rizicích a zodpovědném používání...
API klíč (Application Programming Interface key)
Jedinečný identifikátor používaný pro autentizaci při přístupu k API (programovému rozhraní). Funguje jako heslo pro strojovou komunikaci. NIKDY nesmí...
Automatizované rozhodování
Proces, kdy rozhodnutí ovlivňující osobu je učiněno čistě automatizovanými prostředky bez lidského zásahu. Podle článku 22 GDPR mají lidé právo nebýt ...
Bias (Zaujatost, Předsudek)
Systematická tendence AI systému preferovat určité výsledky nebo skupiny. Vzniká obvykle z historických dat, na kterých byl model trénován, a může vés...
Chatbot
Softwarová aplikace navržená pro konverzaci s lidmi pomocí textu nebo hlasu. Moderní chatboty často využívají AI. Při použití pro komunikaci se zákazn...
ChatGPT
Konverzační AI model vyvinutý společností OpenAI, založený na architektuře GPT (Generative Pre-trained Transformer). Nejznámější příklad generativní A...
Citlivé osobní údaje (Special categories of personal data)
Podle GDPR kategorie osobních údajů vyžadující zvláštní ochranu: údaje o rasovém či etnickém původu, politických názorech, náboženském vyznání, členst...
Copilot
AI asistent od Microsoftu integrovaný do produktů Microsoft 365 (Word, Excel, PowerPoint, Teams) a dostupný jako samostatný chatbot. V enterprise verz...
ČTÚ (Český telekomunikační úřad)
Hlavní dohledový orgán pro AI systémy v České republice podle EU AI Act. Odpovědný za vymáhání pravidel a ukládání sankcí.
Data Privacy Framework (EU-US Data Privacy Framework)
Mechanismus schválený v roce 2023, který umožňuje legální přenos osobních údajů z EU do USA. Nahradil invalidní Privacy Shield. Společnosti certifikov...
Deepfake
Syntetické médium (obraz, video, audio) vytvořené pomocí AI, které vypadá autenticky, ale je umělé nebo manipulované. Podle EU AI Act musí být deepfak...
Deployer (Nasazovatel)
Podle EU AI Act osoba nebo organizace, která používá AI systém ve své činnosti. Má specifické povinnosti včetně zajištění AI gramotnosti zaměstnanců.
Diskriminace
Nespravedlivé zacházení s osobami nebo skupinami na základě jejich charakteristik (pohlaví, rasa, věk atd.). AI systémy mohou neúmyslně diskriminovat,...
DPA (Data Processing Agreement / Smlouva o zpracování osobních údajů)
Smlouva mezi správcem a zpracovatelem osobních údajů podle GDPR, která definuje podmínky zpracování. Nezbytná pro legální použití AI nástrojů třetích ...
DPIA (Data Protection Impact Assessment / Posouzení vlivu na ochranu údajů)
Proces vyhodnocení rizik pro osobní údaje před zahájením zpracování s vysokým rizikem. Podle GDPR povinné při rozsáhlém zpracování citlivých údajů, sy...
Enterprise verze
Placená verze AI nástroje určená pro firemní použití, obvykle s pokročilými bezpečnostními funkcemi, garancemi ochrany dat, SLA a možností uzavření DP...
Fair use
Anglo-americký právní koncept umožňující omezené použití autorsky chráněného materiálu bez souhlasu autora za určitých okolností (vzdělávání, kritika,...
GDPR (General Data Protection Regulation / Obecné nařízení o ochraně osobních údajů)
Nařízení EU 2016/679 platné od května 2018, které chrání osobní údaje občanů EU. Stanovuje přísná pravidla pro zpracování osobních údajů a sankce až d...
Gemini
Multimodální AI model od Googlu, dříve známý jako Bard. Dostupný jako samostatný chatbot i integrovaný do Google Workspace.
Generativní AI
Typ umělé inteligence schopný vytvářet nový obsah - text, obrázky, video, hudbu, kód - na základě vstupních příkazů (promptů). Příklady: ChatGPT, Midj...
Halucinace (AI Hallucination)
Situace, kdy AI model generuje informace, které jsou fakticky nesprávné, ale prezentuje je s jistotou jako pravdivé. Halucinace vznikají proto, že AI ...
High-risk AI system (Vysokorizikový AI systém)
Kategorie AI systémů podle EU AI Act, které představují vysoké riziko pro bezpečnost nebo základní práva lidí. Zahrnují např. AI pro nábor zaměstnanců...
Lidský dohled (Human oversight)
Požadavek, aby důležitá rozhodnutí učiněná AI byla kontrolována a schvalována kvalifikovaným člověkem. Klíčový princip zodpovědného používání AI.
LLM (Large Language Model / Velký jazykový model)
Typ AI modelu trénovaného na obrovských objemech textových dat, který dokáže porozumět a generovat přirozený jazyk. Příklady: GPT-4, Claude, Gemini.
Midjourney
AI nástroj pro generování obrazů z textových popisů. Jeden z nejpopulárnějších nástrojů pro AI art.
Nasazovatel
Viz Deployer - Podle EU AI Act osoba nebo organizace, která používá AI systém ve své činnosti.
NDA (Non-Disclosure Agreement / Dohoda o mlčenlivosti)
Právní smlouva zavazující strany k zachování důvěrnosti určitých informací. Informace chráněné NDA NIKDY nesmí být vkládány do AI nástrojů.
Nepřijatelné riziko
Nejvyšší kategorie rizika podle EU AI Act. AI praktiky v této kategorii jsou zakázány. Zahrnuje sociální skórování, manipulaci, biometrickou identifik...
Obchodní tajemství
Důvěrná informace, která má obchodní hodnotu právě díky tomu, že není veřejně známá. Podle zákona chráněno před neoprávněným získáním a použitím. Nikd...
OpenAI
Americká společnost, která vytvořila ChatGPT a řadu dalších AI modelů (GPT-3, GPT-4, DALL-E). Patří mezi největší poskytovatele generativní AI.
Osobní údaj (Personal data)
Podle GDPR jakákoli informace týkající se identifikované nebo identifikovatelné fyzické osoby. Zahrnuje jméno, adresu, e-mail, telefonní číslo, IP adr...
Poskytovatel (Provider)
Podle EU AI Act osoba nebo organizace, která vyvíjí AI systém nebo si nechá vyvinout AI systém za účelem uvedení na trh nebo do provozu pod vlastní zn...
Prompt
Textový příkaz nebo otázka zadaná do AI systému. Kvalita promptu zásadně ovlivňuje kvalitu výstupu. Nikdy by neměl obsahovat citlivé informace.
Pseudonymizace
Zpracování osobních údajů takovým způsobem, že je již nelze přiřadit konkrétnímu subjektu údajů bez použití dodatečných informací. Snižuje rizika spoj...
Sankce
Pokuty nebo jiné tresty za porušení právních předpisů. EU AI Act stanoví pokuty až 35 milionů € nebo 7 % celosvětového obratu za nejzávažnější porušen...
Souhlas (Consent)
Podle GDPR svobodný, konkrétní, informovaný a jednoznačný projev vůle subjektu údajů. Jeden ze šesti právních základů pro zpracování osobních údajů.
Standardní smluvní doložky (Standard Contractual Clauses - SCC)
Smluvní šablony schválené Evropskou komisí pro přenos osobních údajů do třetích zemí. Jeden z mechanismů pro legální mezinárodní přenos dat.
Temporary chat
Funkce v některých AI nástrojích (např. ChatGPT), která umožňuje konverzaci, jež se nikdy neuloží v historii. Bezpečnější volba pro citlivější dotazy.
Transparentnost (Transparency)
Princip, že by lidé měli vědět, kdy interagují s AI systémem nebo kdy je AI použita při rozhodování, které je ovlivňuje. Právní požadavek podle GDPR a...
Trénink (Training)
Proces, při kterém se AI model učí z dat. Model je trénován na miliardách textů, obrázků nebo jiných dat, aby se naučil rozpoznávat vzory a generovat ...
ÚOOÚ (Úřad pro ochranu osobních údajů)
Český nezávislý orgán dohlížející nad dodržováním GDPR v České republice. Má pravomoc ukládat pokuty a vyšetřovat stížnosti.
Vysokorizikový systém
Viz High-risk AI system - Kategorie AI systémů podle EU AI Act, které představují vysoké riziko pro bezpečnost nebo základní práva lidí.
Zakázané AI praktiky (Prohibited AI practices)
AI systémy s nepřijatelným rizikem podle EU AI Act, které jsou v EU zakázány. Zahrnují: manipulativní techniky způsobující škodu, vykořisťování zranit...
Zpracovatel (Processor)
Podle GDPR subjekt, který zpracovává osobní údaje jménem správce. Poskytovatelé AI nástrojů jsou typicky zpracovateli, pokud zpracovávají osobní údaje...