AI Act: K čemu je a co se na něm nelíbí evropským firmám?

Evropská komise nedávno odmítla odklad účinnosti zákona, protože považuje pravidla za klíčová pro ochranu občanů zemí EU, jejich práv a bezpečnosti. Nejprve se stručně podívejme na to, proč je zákon důležitý:

1. Ochrana základních práv občanů: Zákon zakazuje nebo přísně reguluje systémy, které mohou narušovat soukromí, svobodu projevu nebo rovné zacházení. Například zakazuje biometrické sledování ve veřejném prostoru v reálném čase. Chrání tím evropské občany před zneužitím technologií státem nebo firmami.

2. Kategorizace rizika: Zákon rozděluje systémy AI do čtyř kategorií podle míry rizika (minimální, omezené, vysoké a nepřijatelné). Nejpřísnější regulace se týká systémů s vysokým rizikem, například v oblasti zdravotnictví, soudnictví nebo zaměstnanosti. To umožňuje přiměřené a cílené zásahy tam, kde hrozí největší dopad.

3. Transparentnost a dohled: Zákon zavádí povinnost poskytovat informace o fungování systémů AI, a to včetně označení takzvaných deepfakeů nebo chatbotů. Zajišťuje, že uživatel ví, že komunikuje s AI, a může se rozhodnout, zda v interakci pokračovat. Také umožňuje dohled regulačních orgánů nad vývojem těchto technologií.

4. Podpora inovací a testovacích zón: AI Act vytváří "regulační pískoviště", tedy bezpečná prostředí, kde mohou firmy a vývojáři testovat nové technologie. To má zabránit tomu, aby regulace brzdila inovace. EU tím podporuje konkurenceschopnost evropského technologického sektoru.

5. Povinnosti pro vývojáře a firmy: Firmy, které vyvíjejí nebo nasazují AI, musejí splnit řadu technických a etických požadavků, zejména u systémů s vysokým rizikem. Musejí zajistit bezpečnost, soulad s lidskými právy a zpětnou sledovatelnost rozhodnutí AI. Nedodržení pravidel může vést k vysokým pokutám.

6. Zákaz některých systémů AI: Úplně zakázané jsou například technologie AI, které manipulují lidským chováním, využívají zranitelnost (například dětí nebo starších osob) nebo zavádějí takzvané sociální skóre, které známe z Číny. Tyto technologie jsou považovány za neslučitelné s evropskými hodnotami.

7. Posílení důvěry veřejnosti: Zavedením jasných pravidel a garancí má zákon posílit důvěru občanů i firem v bezpečné využívání AI. Právní jistota má povzbudit širší přijetí umělé inteligence napříč sektory. Zákon tak vyvažuje ochranu lidí a podporu technologického pokroku.

Účinnost zákona ale může být také velkou výzvou, zejména pro evropské firmy a vývojáře, kteří budou muset splňovat přísná pravidla a administrativní povinnosti. Zatímco zákon klade důraz na bezpečnost a etiku, zavádí i nákladné procesy jako dokumentaci, audity, testování a zajištění transparentnosti. To může zpomalit vývoj, zvýšit náklady a snížit flexibilitu malých a středních podniků, které nemají zdroje jako velké korporace. Navíc hrozí, že některé firmy se rozhodnou raději své AI projekty přesunout mimo EU, kde je regulace volnější.

Klíčovým rizikem je tak znevýhodnění evropských firem vůči konkurenci ze zemí mimo Evropskou unii, zejména ze Spojených států, Číny a Indie. Například americké firmy jako OpenAI, Google, Meta Platforms nebo Microsoft podléhají zatím méně přísným pravidlům a mohou rychleji uvádět na trh nové produkty. V Číně je pak vývoj AI silně podporovaný státem, i když v jiném rámci, a sice orientovaném spíše na kontrolu obsahu než na ochranu uživatelů. Tato asymetrie každopádně může oslabit evropskou konkurenceschopnost a vyvolat útěk před regulací, kdy firmy přesunou výzkum a vývoj do zemí mimo přísnou jurisdikci.

Zastánci odkladu nebo zmírnění pravidel tvrdili a dále tvrdí, že by Evropská unie mohla nejprve podporovat dobrovolné standardy a více investovat do rozvoje evropského ekosystému AI, než zavede závazná pravidla. Kritici se obávají, že přílišná regulace v rané fázi vývoje technologie připraví Evropu o vliv a schopnost určovat globální směr vývoje technologií umělé inteligence.

Komentář (Roman Berglowiec, Everbot)

AI Act je na papíře krokem k odpovědnosti. V praxi ale pro mnoho firem může znamenat hlavně další vrstvu byrokratické zátěže. A tím i reálnou hrozbu, že zůstanou pozadu ve světě AI, který se kolem nich mění obrovskou rychlostí.

Česká republika se snažila v rámci Rady EU prosadit dvouletý odklad účinnosti vybraných povinností, dokud nebude připraven dostatečný výklad a podpora. Její návrh byl ale zamítnut. A tak tu nyní máme právní rámec, ale postrádáme jasný návod, jak jej dodržovat. Mezitím svět kolem nespí a zahraniční giganti v oblasti AI naplno pokračují ve vývoji.

Stačí se podívat za Atlantik. V první polovině roku 2025 Spojené státy představily ambiciózní Project Stargate. Jde o čtyřletou investici v objemu 500 miliard dolarů do AI a infrastruktury, realizovanou ve spolupráci s největšími technologickými hráči jako Oracle, OpenAI, Softbank, Microsoft a NVIDIA. Cílem je vytvoření tisíců pracovních míst a upevnění vedoucí pozice USA v globálním vývoji AI. Startupy zaměřené na umělou inteligenci získaly podle dat Pitchbook v prvním pololetí asi 53 % veškerého globálního rizikového kapitálu.

Zatímco globální investice rychle rostou, evropské firmy se potýkají s přísnými regulačními požadavky. Ty sice posilují důvěru v evropský přístup k ochraně soukromí a dat, zároveň ale mohou zpomalovat inovace, omezovat zahraniční spolupráci a komplikovat vstup nových hráčů na trh.

V roce 2024 přitom přiteklo do evropských AI firem přes 13 miliard dolarů, meziročně o 22 % více. To je jasný signál, že Evropa má co nabídnout. Zároveň ale počet transakcí spadl o 31 %, což ukazuje, že se kapitál soustředí hlavně na zavedené hráče v oblastech velkých jazykových modelů, generativní AI a pokročilé automatizace. Tato koncentrace není náhodná, investoři sázejí na silné koně. Otázkou zůstává, zda Evropa dokáže skloubit svou ambici být lídrem etického vývoje s potřebou rychlosti a flexibility. Regulace jako AI Act nebo GDPR dávají smysl z pohledu důvěry a bezpečnosti, neměly by z nás ale dělat pozorovatele v době, kdy svět sprintuje vpřed.

Česká republika i přes optimistické prognózy nadále zaostává za evropskými lídry pokroku v AI. Průzkum Evropské komise zařadil Česko do spodní poloviny členských států, daleko za lídry, jimiž jsou Dánsko, Švédsko a Belgie. Ve srovnání s Německem bylo v Česku v roce 2024 používání AI stále výrazně nižší, vyplývá z dat Destatis. Vzhledem k tomu, že mnoho českých firem vyváží své produkty do Německa, toto zpoždění vyvolává obavy ohledně konkurenceschopnosti. Nejhorších výsledků dosahují Polsko a Rumunsko, kde přes 96 % firem technologie AI vůbec nevyužívá.

To celé není jen statistika. Je to jasný signál ohrožení konkurenceschopnosti českých firem. Velké německé společnosti, včetně technologických lídrů jako SAP, investují miliardy do rozvoje AI nástrojů a řešení, která mají přímý dopad na ziskovost a efektivitu. Klíčovým důvodem, proč Německo v oblasti umělé inteligence dosahuje lepších výsledků, je nejspíše právě systematický přístup a to, že svou národní AI strategii aktivně naplňuje. S jasnými investicemi, podporou výzkumu a důrazem na využití v praxi. Česko sice strategii má, ale její uplatňování v reálném prostředí zatím výrazně pokulhává.

AI Act se využívání nástrojů, jako je ChatGPT, dotýká zejména tím, že AI modely obecného účelu (GPAI) s vysokým výpočetním výkonem, jako je GPT-4, mohou být zařazeny do kategorie systémového rizika. Napříč odvětvím umělé inteligence, od startupů až po zavedené giganty, panuje obava, že by přísné předpisy mohly zpomalit tempo technologických inovací i státní hospodářství. Začínající podniky se obávají, že zátěž spojená s dodržováním předpisů je znevýhodní oproti zavedeným společnostem s dobrými zdroji.

A nakonec vyvstává otázka, jak bude zákon uplatňován a vymáhán u firem ze Spojených států nebo Asie. Evropská pravidla totiž platí pro všechny subjekty, které působí na evropském trhu, bez ohledu na to, kde sídlí. Zní to férově, ale v praxi může být vymáhání povinností vůči globálním technologickým gigantům výrazně obtížnější než vůči firmám, které sídlí v EU a mají zde své vývojové i provozní zázemí. Startup z Brna se bude muset podřídit detailním požadavkům AI Actu, zatímco firma z Kalifornie, která poskytuje obdobnou službu evropským zákazníkům, může být kontrolována jen omezeně. V nejhorším případě až v okamžiku, kdy nastane nějaký problém.

Tato asymetrie znamená konkurenční nevýhodu. Nejen kvůli samotnému právnímu riziku, ale i kvůli nákladům na dodržování předpisů, právní poradenství a úpravu produktů podle evropské legislativy. Menší evropští hráči mohou být v některých oblastech efektivně vytlačeni z trhu, a to ne kvůli horší technologii, ale kvůli vyšší regulační zátěži.

Je proto načase změnit přístup. Umělá inteligence není jen budoucnost, je to současnost, která určuje naši konkurenceschopnost. České firmy by se měly zaměřit nejen na plánování, ale hlavně na rychlou a efektivní implementaci technologií AI. Kdo to neudělá, bude na trhu zaostávat.