AI jako bezpečnostní riziko pro firmy: co hrozí a jak se chránit

Generativní umělá inteligence (jako ChatGPT, Gemini nebo Copilot) dramaticky zrychluje firemní procesy, od marketingu po vývoj. Ovšem tato revoluce má i stinnou stránku: neřízené používání AI je dnes největší bezpečnostní hrozbou uvnitř firem.

Největší riziko totiž není sofistikovaný hackerský útok. Je to zaměstnanec, který nevědomky vloží tajnou smlouvu, ceník nebo osobní data klientů do veřejného chatbota. Takto uniká know-how, hrozí pokuty za GDPR a objevují se nové povinnosti v rámci regulací jako NIS2.

Fakt: Podle analýz obsahuje zhruba 1 z 13 promptů (dotazů) vložených do AI nástrojů potenciálně citlivé firemní informace.

Kde vzniká největší problém?

1. Lidé posílají AI citlivá data: Často z pohodlnosti nebo nevědomosti končí v AI nástrojích části smluv, osobní údaje klientů, interní strategie nebo dokonce zdrojové kódy.

2. AI nástroje jsou nekontrolované: Zaměstnanci si instalují desítky různých AI aplikací bez schválení IT oddělení. Většina firemních dat tak končí v nástrojích, které nikdo neauditoval.

3. Útočníci AI zneužívají: Generativní AI je také vynikající nástroj pro kyberzločince. Pomáhá jim rychleji vytvářet phishingové e-maily, deepfaky a nový malware.

Jak zamezit úniku know-how a pokutám? 6 praktických kroků

Nejde o to AI zakázat, ale nastavit chytrá pravidla. Zde je minimum, které musíte udělat pro bezpečnou AI v praxi:

1. Sepište jasná AI pravidla

Lidé potřebují srozumitelný návod, ne jen mlhavé varování. Vytvořte krátkou firemní politiku (na 1-2 strany), která jasně říká:

• CO je zakázáno vkládat do AI (např. osobní údaje, neveřejné ceny, smlouvy, kód).

• JAK data anonymizovat (např. nahradit jména ID, smazat adresy).

• KTERÉ nástroje jsou schválené a které ne.

2. Přesuňte se na Enterprise/Business účty

Bezplatné a osobní účty jsou černou dírou pro data. Získejte firemní předplatné, které zajistí:

• Vypnutí tréninku modelu na vašich datech.

• Lepší audit a správu uživatelů.

• Právní garance v obchodních podmínkách.

• Jednotné přihlášení (SSO) a logování.

3. Školte lidi na reálných příkladech

Jedno praktické školení udělá víc než desítky stran PDF. Ukazujte:

• Příklady promptů, které vypadají nevinně, ale ohrožují firmu.

• Jak jednoduše a rychle anonymizovat text před vložením do AI.

• Příklady, kdy AI vyprodukovala chybu, která stála firmu peníze.

4. Omezte odtok dat (DLP/CASB)

Pokud používáte nástroje jako Microsoft 365 nebo Google Workspace, nastavte si prevenci úniků dat (DLP – Data Loss Prevention). To dokáže:

• Detekovat citlivá data (čísla smluv, osobní údaje) v promtech.

• Blokovat vložení rizikového obsahu nebo varovat uživatele.

• Povolit jen schválené AI domény.

5. Dejte lidem bezpečný firemní AI kanál

Pokud zaměstnanci potřebují analyzovat interní dokumenty, poskytněte jim bezpečný způsob, jak to dělat:

• Firemní verze AI (např. Copilot for Microsoft 365, Enterprise tarify).

• Privátní LLM (velký jazykový model) v cloudu pod vaší správou. Tím snížíte motivaci posílat citlivé věci do veřejných chatbotů.

6. Monitorujte a měřte používání AI

Zaveďte jednoduchý přehled, abyste věděli:

• Které AI nástroje lidé nejvíce používají.

• Kolik rizikových pokusů o vložení citlivých dat vaše DLP systémy zachytily.

• Kam data směřují. AI se mění rychle – bez monitoringu nemáte šanci udržet si přehled.

Rychlé shrnutí pro manažery a majitele firem

Chcete snížit riziko AI úniků bez zbytečné byrokracie?

1. Napište krátká firemní pravidla pro data.

2. Pořiďte firmě Enterprise/Business AI účty a zakažte osobní loginy.

3. Školte lidi na praktických příkladech.

4. Zapněte DLP/ochranu proti úniku dat pro AI.

5. Dejte lidem bezpečný firemní kanál pro citlivé úkoly.

Toto minimum pokryje největší rizika a zajistí, že si udržíte vysoký přínos AI pro váš byznys. Lidé si s tím hrají bokem už zkrátka neprojde.