AI, která umí hackovat, spása, nebo problém?AI, která umí hackovat, spása, nebo problém? Druhá strana Project Glasswing

Zní to jako ideální scénář, největší technologické firmy světa spojí síly a pomocí umělé inteligence začnou aktivně opravovat bezpečnostní chyby dříve, než je stihnou zneužít hackeři. Iniciativa Project Glasswing vedená Anthropic má ale dvě strany. 

 

Novinky

 

Project Glasswing ukazuje, že i dobře myšlený projekt má, podobně jako mince, dvě strany. Na jedné nabízí šanci výrazně zvýšit bezpečnost internetu. Na té druhé otevírá dveře nástrojům, které mohou stejnou infrastrukturu ohrozit v dosud nevídaném měřítku.

 

 

Za celým projektem stojí model Mythos, který podle dostupných informací dokáže, nejen vyhledávat zranitelnosti v kódu, ale také je aktivně zneužívat. A to s minimálními instrukcemi. Jinými slovy, to, co dříve vyžadovalo zkušeného bezpečnostního experta, dnes zvládne autonomní systém během několika hodin. A právě tady se rodí první obavy.

 

Je to bezpečné řešení? 

Anthropic sice tvrdí, že model drží pevně pod kontrolou a zpřístupňuje ho pouze vybraným firmám, ale samotný fakt, že taková technologie existuje, mění bezpečnostní rovnováhu. Pokud ji dokázala vytvořit jedna firma, je jen otázkou času, kdy se k podobnému řešení dostanou i další. Včetně těch s méně dobrými úmysly.

Navíc Mythos není jen „chytrý skener chyb“. Dokáže kombinovat více drobných zranitelností do jednoho funkčního útoku, autonomně generovat exploity a v testech dokonce vykazoval známky strategického chování.

 

 

Není všechno zlato, co se třpytí 

Zatímco část expertů varuje, jiní brzdí nadšení. Kritici upozorňují, že mnoho zranitelností, které Mythos objevil, nebylo nijak zásadních nebo by je dokázaly najít i jiné, méně pokročilé modely.

Objevují se také názory, že načasování celé kauzy není náhodné. Anthropic se podle spekulací chystá vstoupit na burzu, a prezentace „nejmocnější AI na světě“ může být silným marketingovým nástrojem.

 

Dopady na trh i bezpečnostní ekosystém

Reakce trhu ukazuje, že obavy nejsou jen teoretické. Akcie některých kyberbezpečnostních firem po zveřejnění informací o Mythosu výrazně oslabily. Investoři si totiž kladou jednoduchou otázku, co když AI zvládne jejich práci rychleji, levněji a efektivněji?

Vzniká tak ale zároveň paradox. Čím silnější budou podobné nástroje, tím větší bude potřeba lidí, kteří je dokážou kontrolovat, interpretovat a nasazovat správným způsobem.

 

Připravila: Petra Sauerová

Foto: Depositphotos

Sdílet: