Claude a Pentagon: Spor o hranice využití umělé inteligence

Společnost Anthropic patří mezi nejvýznamnější vývojáře pokročilé umělé inteligence ve Spojených státech. Její model Claude dnes využívají i americké vládní instituce. Podle dostupných informací sehrál důležitou roli při analytických a plánovacích úlohách v oblasti národní bezpečnosti. V médiích se objevily také zmínky o tom, že se technologie podílela na přípravě operace zaměřené na bývalého venezuelského prezidenta Nicoláse Madura. Rostoucí význam modelu Claude však otevřel zásadní spor mezi společností Anthropic a Pentagonem.

Jaké podmínky Anthropic stanovil

Anthropic umožnil využívání svého modelu pro potřeby americké vlády, zároveň ale vymezil dvě jasné hranice:

• zákaz využití pro masové sledování občanů USA,

• zákaz využití při vývoji autonomních smrtících zbraní.

Vedení firmy argumentuje tím, že základní modely umělé inteligence nedosahují spolehlivosti potřebné pro plně autonomní zbraňové systémy. Podle generálního ředitele Daria Amodeie by takové nasazení mohlo ohrozit vojáky i civilní obyvatelstvo. Anthropic proto odmítá poskytovat technologii pro účely, které považuje za eticky nebo bezpečnostně nepřijatelné.

Pentagon požaduje širší využití

Ministerstvo obrany USA podle dostupných informací usiluje o širší přístup k modelu bez těchto omezení. Argumentuje tím, že bude postupovat v souladu s americkou ústavou a platnými zákony. Napětí mezi oběma stranami v posledních dnech zesílilo. Pentagon naznačil, že může společnost označit za riziko pro dodavatelský řetězec, pokud nevyhoví jeho požadavkům. Takové označení se běžně používá u zahraničních firem, které představují bezpečnostní hrozbu. V případě domácí technologické společnosti by šlo o mimořádně tvrdý krok. Dario Amodei na oficiálním blogu společnosti uvedl, že je obtížné současně tvrdit, že technologie představuje klíčový nástroj národní bezpečnosti, a zároveň označovat jejího vývojáře za bezpečnostní riziko.

Spor o kontrolu nad strategickou technologií

Celá situace vyvolává širší otázku: kdo má rozhodovat o využití pokročilé umělé inteligence, pokud získá zásadní význam pro obranu státu? Pentagon usiluje o co nejširší operační možnosti. Anthropic zdůrazňuje odpovědnost vývojáře a trvá na omezeních, která považuje za nutná. Střet tak neprobíhá jen o konkrétní kontrakt, ale o princip kontroly nad strategickou technologií. Historie ukazuje, že státy mají tendenci převzít rozhodující vliv nad technologiemi, které považují za klíčové pro bezpečnost. Umělá inteligence dnes mezi takové technologie patří.

Riziko masového dohledu a autonomních zbraní

Anthropic upozorňuje na dvě oblasti, které považuje za obzvlášť citlivé. První představuje masové sledování obyvatel. Podobné programy v minulosti vyvolaly rozsáhlé společenské debaty o ochraně soukromí a rozsahu pravomocí bezpečnostních složek. Druhou oblastí jsou autonomní smrtící systémy. Nasazení plně autonomních zbraní by znamenalo zásadní změnu v charakteru moderního konfliktu. Vedení Anthropicu upozorňuje, že současné modely umělé inteligence nevykazují dostatečnou spolehlivost pro takové využití. Společnost dokonce deklarovala ochotu pomoci ministerstvu obrany s přechodem k jinému dodavateli, pokud bude Pentagon trvat na požadavcích, které překračují stanovené hranice.

Dopady na celý sektor AI

Výsledek tohoto sporu může ovlivnit celý technologický sektor. Pokud stát přistoupí k sankcím vůči firmě, která odmítne rozšířit vojenské využití své technologie, vyšle tím silný signál ostatním vývojářům. Pro soukromé společnosti vyvíjející pokročilou umělou inteligenci tak vzniká nové dilema. Na jedné straně stojí obchodní příležitosti a vládní kontrakty. Na druhé straně reputace, etické závazky a dlouhodobá důvěra veřejnosti.

Co to znamená pro Evropu a ČR

Spor mezi společností Anthropic a Pentagonem probíhá v USA, jeho důsledky však mohou ovlivnit i evropské prostředí. Evropská unie připravuje vlastní regulační rámec pro umělou inteligenci a otázka vojenského využití patří mezi nejcitlivější témata. Pro české firmy i státní správu představuje tento případ důležitý precedent. Ukazuje, že vývoj pokročilé AI rychle přechází z komerční sféry do oblasti strategické infrastruktury. Budoucnost umělé inteligence tak neurčí pouze technologický pokrok. Zásadní roli sehrají pravidla, která nastaví státy, a hranice, které si dokážou obhájit samotní vývojáři.