Pravidla kyberbezpečnosti v éře umělé inteligence

Podle studie State of Cybersecurity až 90 % firem není připraveno čelit kybernetickým hrozbám poháněných umělou inteligencí. Ty jsou ovšem díky AI častější a sofistikovanější. Které firmy jsou nejzranitelnější a jak se útokům efektivně bránit?

 

Magazín

 

Většina českých podniků začíná s výraznějšími bezpečnostními iniciativami, stále jim ovšem chybí ucelená strategie i dostatek kapacit. Zásadní je nedostatečná identifikace rizik a směrování omezených zdrojů podle jejich priorit.

 

Generativní a pokročilé AI zcela mění pravidla hry. V dnešní době se vstup čím dál častěji odehrává prostřednictvím přirozeného jazyka a konverzací, na to už bezpečnostní prvky navržené pro tradiční aplikace nestačí. Rychlost, s jakou firmy nasazují různá AI řešení, se též stává problémem. Nekoncepční zavádění vytváří bezpečnostní mezery, které mohou útočníci snadno využít.

 

Šedé IT a interní hrozby

Samotní zaměstnanci jsou často jedním z rizik, a to v podobě nekontrolovaného užívání nástrojů, jako je např. ChatGPT. Stačí nechtěné vložení citlivých informací do chatbota. Ty se pak dostanou do prostředí, nad kterým firma již nemá kontrolu.

 Dalším rizikem je kvalita výstupů, které nemusí být přesné a zaměstnanec je tak může bez ověření začlenit do důležitých rozhodnutí.

V neposlední řadě je tu problematika generovaného kódu, který by mohl obsahovat škodlivé prvky.

Je tedy doporučeno vytvořit jasná firemní pravidla, zajistit technická opatření a řádně školit zaměstnance v rozpoznávání rizikového chování. Nutností je také budování interní kompetence zaměřené na bezpečnost umělé inteligence.

 

Dodavatelské řetězce

Společnosti často nechávají kritické procesy běžet u dodavatele, kterého ovšem prověřují jen omezeně. Tato slabina se čím dál častěji stává terčem útočníků. Jedná se o jednu z nejzranitelnějších domén široké škály firem. Pro útočníky může být cílení na dodavatele rychlejší a levnější cestou.

Princip ochrany vychází ze stejných postupů jako ochrana vlastních systémů. Základem je přehled dodavatelů, jasné bezpečnostní požadavky a odpovídající kontroly, včetně smluvních závazků. U cloudových služeb je klíčové správně rozdělit odpovědnosti, nastavit konfiguraci a ověřit bezpečnostní opatření.

Firemní bezpečností tým by měl být zapojen při pořizování veškerých služeb a mít připravenou strategii pro případ selhání dodavatele.

 

 

Malé firmy jako snadnější cíl

Na rozdíl od větších firem, které mohou výrazně posílit ochranu celého řetězce, menší firmy často řeší subdodávky a nemají prostředky na vlastní robustní zabezpečení.

Východiskem je partnerský přístup, který stojí na společném posilování odolnosti. Stojí za ním sdílení bezpečnostních politik, informací o nově vznikajících hrozbách, doporučených konfigurací nebo základních kontrolních seznamů.

Další efektivní cestou, jak zajistit bezpečnost, je i sdílení technologií, nebo zapojení menších partnerů do školení, simulací incidentů nebo testování odolnosti.

 

AI v bezpečnosti

Bezpečnost dnes nemusí brzdit inovace, lze ji efektivně integrovat pomocí automatizace testů a kontrol. Klíčová je správná governance a kultura bezpečnosti, tedy jasné řízení rizik, odpovědností a ověřování chování systémů, což umožňuje bezpečné využití AI.

AI pomáhá v obraně tím, že zrychluje detekci a řešení incidentů, odhaluje útoky a šetří čas analytiků.

 

 

Připravila: Nikola Bednářová

Foto: Depositphotos

Sdílet: