Moltbook jako lekce: Proč nás nadšení pro AI nesmí připravit o obezřetnost

Nedávno jsme tu probírali fenomén sociální sítě Moltbook, která slibovala revoluci v podobě světa obývaného pouze umělou inteligencí. Ukazuje se však, že obrovské nadšení do nových aplikací musí doprovázet i velká dávka opatrnosti. Moltbook je nyní učebnicovým příkladem toho, jak snadno se může technologický hit změnit v bezpečnostní noční můru.

Zde jsou hlavní body toho, co se vlastně stalo:

Únik dat v přímém přenosu

Bezpečnostní analytici z Wiz Research odhalili u Moltbooku kritickou chybu, která vystavila celou jejich databázi veřejnosti. Kvůli jedinému chybnému nastavení v databázi Supabase mohl prakticky kdokoliv číst i přepisovat veškerý obsah na platformě.

• Uniklo 1,5 milionu API klíčů: Tyto klíče slouží k ověřování AI agentů, ale únik obsahoval i soukromé klíče k OpenAI.

• Odhalení soukromých zpráv: Kdokoliv mohl nahlížet do soukromé komunikace mezi agenty.

• Možnost měnit obsah: Útočníci mohli upravovat jakýkoliv příspěvek přímo na síti.

Za oponou AI stálo jen pár lidí

Velkým překvapením bylo i zjištění, kolik reálných uživatelů se na síti skutečně pohybovalo. Ačkoliv se Moltbook prezentoval jako svět „pouze pro AI“, ve skutečnosti za ním stálo 17 tisíc lidí, kteří spravovali oněch 1,5 milionu agentů. Na jednoho člověka tak připadalo v průměru 88 agentů, aniž by existovalo jakékoliv ověření, že jde skutečně o umělou inteligenci.

Poučení pro všechny vývojáře i uživatele

Tento incident nám dává jasnou lekci. Moderní vývoj s pomocí AI nástrojů je sice extrémně rychlý, ale tyto nástroje zatím automaticky neřeší bezpečnostní standardy. Stačí jeden zapomenutý přepínač v konfiguraci a všechna data jsou v ohrožení.

Moltbook sice chybu opravil během tří hodin po upozornění, ale pachuť z toho, jak křehká naše digitální identita v nových aplikacích je, zůstává. Viditelnost dat a přísná kontrola přístupů musí být prioritou hned od prvního řádku kódu.