AI už umí hackovat lépe než lidé, tech giganti spouští obranný plán s názvem Project Glasswing

Síly spojují lídři technologického světa, včetně Amazon Web Services, Google, Microsoft, Apple nebo NVIDIA. A představují iniciativu Project Glasswing, která má zabezpečit kritickou softwarovou infrastrukturu v době, kdy schopnosti umělé inteligence dosahují nevídaných výšin.

 

Novinky

 

Technologický svět stojí na prahu další zásadní změny. Společnost Anthropic představila iniciativu Project Glasswing, která spojuje lídry jako Amazon Web Services, Google, Microsoft, Apple nebo NVIDIA s jediným cílem, zabezpečit kritickou softwarovou infrastrukturu v době dramatického vývoje AI.

 

Impulzem pro vznik projektu je nový, zatím neveřejný model Claude Mythos Preview. Ten podle dostupných informací dosahuje takové úrovně programátorských schopností, že překonává ve vyhledávání a možnostech zneužití bezpečnostních chyb většinu lidských expertů. Během testování už identifikoval na tisíce závažných zranitelností napříč operačními systémy i webovými prohlížeči. To zásadně mění pravidla hry.

 

 

Zatímco dosud byla AI vnímána především jako nástroj pro zvýšení produktivity, dnes se ukazuje i její druhá strana. Stejné technologie tak pomáhají firmám zrychlit vývoj, ale mohou být využity i na druhé straně, k útokům na jejich systémy. A vzhledem k rychlosti, jakou se AI vyvíjí, je pravděpodobné, že tyto schopnosti se brzy dostanou i mimo kontrolované prostředí velkých technologických hráčů.

Project Glasswing proto sází na opačný přístup, využít sílu AI dříve obránci než útočníky. Zapojené firmy budou model využívat k aktivnímu vyhledávání zranitelností a posilování bezpečnosti svých systémů. Anthropic zároveň plánuje sdílet získané poznatky s širším ekosystémem a podpořit bezpečnostní iniciativy i finančně.

 

Připravila: Petra Sauerová

Foto: Depositphotos

Sdílet: