AI Act v kostce: Co přináší nová pravidla pro umělou inteligenci
Umělá inteligence (AI) zásadně mění náš svět, ale ruku v ruce s pokrokem přicházejí i nové výzvy. Evropská unie proto vytvořila nařízení AI Act, jehož hlavním cílem je budovat důvěru a zajistit, aby technologie zůstaly bezpečné a v souladu s našimi hodnotami. Jako uživatelé AI nástrojů se s těmito pravidly budeme setkávat stále častěji, a proto je dobré vědět, co nás čeká.
POSLECHNĚTE SI CELÉ TÉMA V AUDIO VERZI:
Jak EU rozděluje rizika?
Jádrem celého nařízení je přístup založený na míře rizika. Čím vyšší hrozbu systém představuje pro zdraví nebo práva lidí, tím přísnější pravidla pro něj platí.
Nepřijatelné riziko (ZAKÁZÁNO): EU zcela zakazuje praktiky, jako je podprahová manipulace, sociální skórování lidské důvěryhodnosti nebo necílené stahování biometrických dat z internetu pro rozpoznávání obličejů.
Vysoké riziko: Sem patří systémy používané v kritické infrastruktuře, ve zdravotnictví nebo při náboru zaměstnanců (Jak to ovlivní HR segment se dočtěte zde) . Firmy zde musí plnit přísné povinnosti, například vést technickou dokumentaci a zajistit lidský dohled.
Omezené riziko: U těchto systémů (např. chatbotů) musíte uživatele jasně informovat, že komunikuje s AI.
Minimální riziko: Většina běžných aplikací, jako jsou spamové filtry, nemá žádné nové zákonné povinnosti.
Co to znamená pro firmy v praxi?
Pro firmy znamená AI Act především nutnost provést důkladnou revizi všech používaných technologií. Každá společnost musí nejprve zmapovat své systémy a určit, do jaké rizikové kategorie spadají. Pokud firma AI systémy pouze nakupuje, musí si od dodavatelů vyžádat potvrzení o souladu s novými pravidly a potřebnou dokumentaci. Přestože aktuální změny ruší přímou zákonnou povinnost školit zaměstnance v AI gramotnosti, odborníci proaktivní školení stále doporučují jako nejlepší cestu k bezpečnému využívání těchto nástrojů. Podniky také musí nastavit vnitřní procesy pro správné označování obsahu, který vytváří generativní AI
Transparentnost: Poznáme, co vytvořila AI?
Jedním z klíčových pilířů je boj proti dezinformacím. Pokud narazíte na tzv. deepfake (uměle vytvořený obraz, zvuk či video), musí ho tvůrce jasně a zřetelně označit. Podobné pravidlo platí i pro texty informující o věcech veřejného zájmu – jejich umělý původ musí být veřejnosti znám, pokud neprošly lidskou redakční kontrolou.
Časová osa a novinky z konce roku 2025
Ačkoliv nařízení vstoupilo v platnost již v srpnu 2024, implementace probíhá postupně.
Únor 2025: Začnou platit zákazy zakázaných praktik.
Srpen 2026: Vstoupí v účinnost pravidla pro velké modely (např. ChatGPT nebo Gemini).
Odklad pro vysoce rizikové systémy: Návrh Digital Omnibus z listopadu 2025 navrhuje posunout termíny pro nejsložitější systémy až na prosinec 2027 nebo srpen 2028. Důvodem je chybějící infrastruktura a technické standardy.
Kdo na vše dohlíží?
V České republice si dohled rozdělí několik úřadů. Český telekomunikační úřad (ČTÚ) bude fungovat jako centrální orgán dozoru. Osobní údaje ohlídá Úřad pro ochranu osobních údajů ÚOOÚ a finanční sféru zase Česká národní banka. Pokud firmy pravidla poruší, hrozí jim vysoké sankce – v nejzávažnějších případech až 35 milionů EUR nebo 7 % z jejich celosvětového obratu.
