2026-05-28
Akt o umělé inteligenci EU: Co potřebují vědět manažeři
Nařízení se vztahuje na poskytovatele a provozovatele z EU i mimo EU, jejichž výstupy jsou používány v Unii; na dovozce, distributory, zplnomocněné zástupce, výrobce produktů uvádějící AI na trh se svými výrobky a dotčené osoby.
Klíčové body pro vedení
- Akt se vztahuje na poskytovatele, provozovatele, dovozce, distributory a výrobce produktů, když je AI uvedena na trh EU, používána v EU nebo její výstup je používán v EU, včetně společností mimo EU, jejichž výstupy AI jsou používány v Unii.
- Rámec je založen na: (1) zakázaných postupech AI, (2) vysoce rizikových systémech AI s preskriptivními požadavky, (3) povinnostech transparentnosti pro specifická nevysoce riziková použití a (4) povinnostech pro modely AI pro všeobecné účely (GPAI), s dodatečnými povinnostmi pro modely GPAI označené jako modely se „systémovým rizikem“.
- Vymáhání zahrnuje značné správní pokuty až do výše 35 000 000 EUR nebo 7 % celosvětového obratu za zakázané postupy; ostatní porušení se trestají pokutou až do výše 15 000 000 EUR nebo 3 % (nižší stropy pro malé a střední podniky).
Oblast působnosti a role
Nařízení se vztahuje na poskytovatele a provozovatele z EU i mimo EU, jejichž výstupy jsou používány v Unii; zahrnuti jsou také dovozci, distributoři, zplnomocnění zástupci, výrobci produktů uvádějící AI na trh se svými výrobky a dotčené osoby nacházející se v Unii. Využití pro národní bezpečnost, obranu a vojenské účely je vyloučeno.
Manažeři by měli identifikovat svou roli (role) v hodnotovém řetězci. Distributoři, dovozci nebo provozovatelé se mohou stát „poskytovateli“ (a převzít tak povinnosti poskytovatele), pokud provedou rebranding, podstatně upraví nebo změní zamýšlený účel tak, že se systém AI stane vysoce rizikovým.
Struktura rizik v Aktu
Akt definuje:
- Zakázané postupy AI – článek 5
- Manipulace s chováním způsobující újmu; zneužívání zranitelností; sociální skórování.
- Biometrická kategorizace odvozující citlivé údaje; odvozování emocí na pracovišti nebo ve vzdělávání; necílené získávání dat pro rozpoznávání obličejů (scraping).
- Vzdálená biometrická identifikace v reálném čase na veřejnosti (výjimky pro orgány činné v trestním řízení pouze v úzce vymezených případech).
- Vysoce rizikové systémy AI – článek 6 + příloha I/III
- AI používaná v bezpečnostních komponentách nebo samostatně v kritických odvětvích, jako je infrastruktura, vzdělávání, zaměstnanost, základní služby, vymáhání práva, migrace, spravedlnost a demokratické procesy.
- Podléhají přísným povinnostem, včetně posouzení shody, kvality dat, dokumentace, protokolování, dohledu, robustnosti a přesnosti.
- Povinnosti transparentnosti – článek 50
- Uživatelé musí být informováni, když interagují s AI, jsou vystaveni biometrické kategorizaci nebo rozpoznávání emocí, nebo když si prohlížejí syntetický/AI-generovaný obsah (s omezenými výjimkami).
- Modely AI pro všeobecné účely (GPAI) – kapitola V
- Poskytovatelé GPAI musí zajistit technickou dokumentaci a sdílení informací.
- GPAI se systémovým rizikem čelí dodatečným povinnostem v oblasti hodnocení, kybernetické bezpečnosti a podávání zpráv.
Co musí implementovat poskytovatelé vysoce rizikových systémů
Poskytovatelé vysoce rizikových systémů musí provozovat systém řízení kvality, udržovat technickou dokumentaci, zajistit robustní správu dat, umožnit protokolování, poskytovat jasné pokyny a lidský dohled a zaručit robustnost a kybernetickou bezpečnost. Musí provádět posouzení shody a případně se registrovat v databázi EU.
Správa a vymáhání
- Členské státy musí určit příslušné orgány a jednotná kontaktní místa (do 2. srpna 2025).
- Úřad EU pro AI dohlíží na GPAI a dohled nad systémovým rizikem.
- Vnitrostátní orgány vymáhají dodržování předpisů pro vysoce rizikové systémy AI.
- Pokuty: až 35 mil. EUR / 7 % celosvětového obratu za zakázané postupy; až 15 mil. EUR / 3 % za ostatní porušení; až 7,5 mil. EUR / 1 % za nepravdivé informace.
Časová osa
- 2. února 2025 – Zákaz zakázaných postupů.
- 2. srpna 2025 – Vstupují v platnost povinnosti pro GPAI.
- 2. srpna 2026 – Vstupují в platnost požadavky pro vysoce rizikové systémy AI.
- Od 2. srpna 2027 – Postupné zavádění odvětvových povinností.
- Do roku 2030 – Určité povinnosti pro rozsáhlé IT systémy a veřejný sektor.
Prioritní kroky pro manažery
- Zmapujte systémy AI a role – potvrďte status poskytovatele, provozovatele, dovozce nebo distributora.
- Prověřte zakázané postupy – eliminujte použití podle článku 5.
- Plánujte pro vysoce rizikovou AI – zaveďte dokumentaci, řízení rizik a postupy posouzení shody.
- Pro použití/vývoj GPAI – zajistěte transparentní dokumentaci a případně soulad s požadavky na systémové riziko.
- Aktualizujte správu – přidělte odpovědnost, zaveďte monitorovací a eskalační procesy před termíny pro vymáhání.
Co dělá AQUNAMA
V AQUNAMA vám pomůžeme nasadit správnou AI pro vaše podnikání a zajistit relevantní soulad s regulačními požadavky, včetně Aktu o umělé inteligenci EU.
Omezení odpovědnosti: Tento článek je určen pouze pro informační účely a nepředstavuje právní poradenství. Jeho cílem je informovat vedoucí pracovníky o existenci a rozsahu působnosti Aktu EU o umělé inteligenci a zdůraznit, že organizace využívající AI určitými způsoby se mohou potřebovat poradit se svými právními poradci, aby zjistily, jak se na ně nařízení vztahuje.
Stále si nejste jisti, jak AI ovlivní vaše podnikání? My víme, kde ano.
Získejte bezplatnou konzultaci o AI
