Hlavní navigace

Kyberútočníci si pomáhají umělou inteligencí, obránci oplácejí stejnou mincí

11. 12. 2023
Doba čtení: 7 minut

Sdílet

 Autor: Depositphotos
S tím, jak se technologie umělé inteligence rozvíjí, utrácejí kybernetičtí obránci více za technologii na obranu proti kyberzločincům, kteří mají v současné době asymetrickou výhodu při zavádění nových hrozeb generovaných umělou inteligencí.

Síla umělé inteligence a její rychlý vývoj rychle mění prostředí kybernetické bezpečnosti způsoby, které představují příležitosti a výzvy pro obránce kybernetické bezpečnosti. Protože se populární nástroje umělé inteligence, jako je ChatGPT a v poslední době ještě robustnější generativní systémy umělé inteligence, stávají hlavními pilíři digitálního ekosystému, budou se profesionálové v oblasti kybernetické bezpečnosti stále více potýkat s novými hrozbami a zároveň se budou obracet na technologie umělé inteligence, aby tyto hrozby identifikovali a odvrátili.

Kvíz: Hodíte se na CIO? Přečtěte si také:

Kvíz: Hodíte se na CIO?

Bezpečnostní společnost Axenius nedávno zveřejnila průzkum o stavu IT a bezpečnostních týmů, který mimo jiné odhaluje, jak se umělá inteligence dostává na vrchol programů kybernetické bezpečnosti, aby tyto programy splnily slib a vypořádaly se s nebezpečím éry umělé inteligence. Společnost Axonius svůj průzkum provedla mezi osobami s rozhodovací pravomocí v oblasti IT a bezpečnosti v 950 společnostech s 500 a více zaměstnanci ve Spojených státech, Velké Británii a Austrálii.

Průzkum zjistil, že tři čtvrtiny (76 %) dotázaných uvedly, že jejich organizace za AI nebo strojové učení utrácejí více než před 12 měsíci, a více než čtyři z pěti (85 %) respondentů uvedli, že mají zájem o aplikaci AI ve svých IT a bezpečnostní operace organizace v nadcházejícím roce. Společnost Axenius také zjistila, že téměř dva z pěti (39 %) tvůrců  rozhodnutí v oblasti IT a bezpečnosti, jejichž organizace za posledních 12 měsíců snížily počet zaměstnanců v oblasti IT nebo zabezpečení, uvedly, že jejich organizace přijaly nástroje založené na umělé inteligenci, aby zefektivnily úkoly, aby udržely krok s pracovní zátěží v souvislosti se snížením počtu zaměstnanců.

Tato zjištění jsou spojena s dalším zjištěním průzkumu: Téměř tři čtvrtiny (72 %) osob s rozhodovací pravomocí v oblasti IT a bezpečnosti se obávají potenciálních nepříznivých účinků generativní umělé inteligence na kybernetickou bezpečnost jejich organizace.

Chcete dostávat do mailu týdenní přehled článků z CIO Business Worldu? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.

Jak ilustruje tento průzkum, budou kybernetičtí obránci stále více používat technologie umělé inteligence k obraně proti hrozbám umělé inteligence a zároveň se neustále vyrovnávat s kyberzločinci využívajícími malware a nástroje pro narušení s umělou inteligencí. 

„Pokud tato technologie umožňuje útočníkovi udělat něco mnohem rychleji nebo mnohem levněji, pak to znamená, že obránci musí také přemýšlet o tom, jak bychom mohli udělat něco rychleji a levněji a efektivněji udělat více se zdroji, které máme,“ řekl pro CSO Daniel Trauner, hlavní ředitel pro oblast bezpečnosti ve společnosti Axonius.

Okno asymetrické výhody útočníka?

V těchto raných dobách zavádění technologie AI je jedním z faktorů, který by mohl naklonit rovnováhu ve prospěch kyberzločinců, relativně pomalejší a záměrnější přijetí nejnovějších obranných nástrojů AI obránci, což útočníkům poskytuje alespoň dočasnou asymetrickou výhodu. „Pokroky v AI probíhají tak rychle, že nemůžeme doufat, že všichni lidé, kteří ji používají, plně pochopí, co se děje,“ řekl Peter Morgan, CSO ve společnosti Phylum. „Rozdíl v načasování je teď velký problém.“

Patero kroků k podpoře inovací v IT Přečtěte si také:

Patero kroků k podpoře inovací v IT

„Vybudování [systémů kybernetické obrany] trvá dlouho ve srovnání s vybudováním něčeho, co může útočník použít a co může fungovat, řekněme, 1 % času. Pokud jdou po 1 000 nebo 10 000 nebo 100 000 cílech, je velmi snadné spočítat, kolik vám 1% úspěchu dá. Ale jako obránci vám 1% úspěchu moc nepomůže. A skutečně, to, co chcete, aby bylo něčím, co je vyrobeno a předkládáno zákazníkům nebo uživatelům ve spolehlivém slova smyslu, je něco vysoko přes 90 %. A to zabere dost času.“

Někteří odborníci se domnívají, že asymetrická výhoda je něco, na co jsou profesionálové v oblasti kybernetické bezpečnosti již zvyklí a zabývají se tím již dlouhou dobu. 

„Každý z nás, kdo pracujeme v oblasti bezpečnosti, nemůžeme vidět to dobré, aniž bychom viděli to špatné, že?“ říká pro CSO Andrea Hervierová, vedoucí pro oblast partnerství ve společnosti CrowdSec. 

„Vždy se snažíme přemýšlet, jaké by mohly být důsledky potenciální nové technologie, ale když se podíváme na současné výhody umělé inteligence v kybernetické bezpečnosti, můžeme také říci, že mnohé z výhod jsou zároveň nedostatky.“

Nástup umělé inteligence představuje dvě strany jedné mince, říká Hervierová. „Mohu s jistotou říci, že generativní umělá inteligence na jedné straně dokáže automatizovat mnoho každodenních úkolů. Dokáže je dělat ve velkém a dokáže je dělat velmi rychle, což lze považovat za dobrou věc. Může to ovšem být považováno také za špatnou věc, pokud je to v rukou kyberzločince.“

Co letos čeká státní správu? Tady je deset technologických trendů Přečtěte si také:

Co letos čeká státní správu? Tady je deset technologických trendů

I když je AI v současnosti asymetrickou hrozbou, obránci se nemají čeho bát, říká pro CSO Fayyaz Makhani, globální bezpečnostní architekt ve Viking Cloud. 

„AI existuje v různých podobách již několik let. Dokonce desítky let,“ říká. „Myslím, že počínaje loňským rokem, kdy se dostala do popředí… to začalo být opravdu děsivé, protože je to nové.“

„Umělé inteligence se bát nemusíme. Můžeme se na ni dívat několika různými způsoby, a pokud se na ni podíváme jako na nástroje a jako podporu pro cokoli, co děláme, ať už je to na bílé nebo nepříliš bílé straně kybernetické bezpečnosti… Myslím, že tak či onak, všichni máme schopnost využívat umělou inteligenci mnoha různými způsoby.“

Hrozby umělé inteligence, jimž budou obránci čelit

Ačkoli je těžké předvídat, jakým typům hrozeb budou obránci čelit, když se technologie AI ujme, schopnost útočníků generovat syntetický obsah ve velkém je jedním z hlavních problémů. „Schopnost synteticky generovat nový nebo zdánlivě skutečný obsah bude velmi zajímavá. Pokud si vezmete příklad z něčeho, co se děje na úrovni národního státu, kdy se útočník z národního státu snaží vybudovat on-line přítomnost pro řadu účtů, aby to vypadalo, že jsou skutečné, je tu celý proces, “ říká Morgan.

Mrzely vás v nedávné době některé nákupy technologií?

„Vytvoříte si nový účet, vložíte do něj spoustu obsahu a přimějete jej k interakci. A často to [aktéři hrozeb] nechávali lidi dělat celá léta a budovali si tyto on-line identity. Vypadalo to jako skuteční lidé a stálo to spoustu lidského času a úsilí synteticky vytvořit ty věci a nechat je během těchto časových období stárnout. To vše za vás může generování obsahu pomocí ChatGPT. Nyní je to jen psaní kódu pro automatizaci zpracování. Mění to prostředí toho, co mohou útočníci dělat na úrovni objemu.“

Pokud jde o nejčastější případy použití škodlivého kódu AI, které útočníci v současné době používají, jde třeba o zlepšování jazyka phishingových e-mailů, kybernetičtí obránci se této výzvě rychle postaví. 

„Příklad phishingu je skvělým příkladem technologie, která funguje na obou stranách,“ říká Makhani. „Zločinní uživatelé tedy používají AI, ChatGPT nebo jiné generativní modely k vytváření lepších phishingových e-mailů. Ale na druhou stranu, nástroje, které vytváříme, zahrnují mnoho podobných technologií pro detekci vzorců v těchto phishingových e-mailech nebo jiných typech spamu.“

„AI útočníkům poněkud usnadní provádění lepších phishingových útoků, ale také nevyhnutelně posílí obranu,“ říká Morgan.

Je třeba opatrná implementace AI technologií

Mohla by technologie umělé inteligence, která je rychle se vyvíjející, složitá a ve svých operacích často neprůhledná, představovat odpovědnost pro kybernetické obránce, pokud nebude pečlivě implementována? Rostoucí počet společností, včetně Samsungu, Apple, Spotify, Verizonu a Amazonu, omezuje používání ChatGPT zaměstnanci, aby se vyhnuly jedné takové odpovědnosti: prozrazení citlivých zákaznických nebo firemních dat.

Otázky týkající se praktik kybernetické bezpečnosti ze strany organizací se jen vystupňovaly od doby, kdy SEC koncem října obvinila společnost SolarWinds a její CISO za podvody a selhání vnitřní kontroly související s údajně známými riziky a zranitelnostmi kybernetické bezpečnosti, což je vývoj, který vyvolal intenzivní debatu v komunitě informační bezpečnosti. 

Jak spolehlivé jsou harddisky ve skutečnosti? Přečtěte si také:

Jak spolehlivé jsou harddisky ve skutečnosti?

„Objeví se nové útoky zahrnující AI, u kterých si nemyslím, že zde můžete doufat, nebo někoho rozumně stíhat za to, že se nebrání, protože mohou být zcela nové,“ říká Morgan ze společnosti Phylum.

Trauner ze společnosti Axenius se domnívá, že toto odvětví je v monitorování rizik a závazků vyplývajících z AI již proaktivní. „Dá se říct, že bezpečnostní průmysl věnoval velmi pečlivou pozornost riziku a odpovědnosti, když se podíváte na spoustu rámců, které vyšly. Již existuje OWASP Top 10 pro aplikace velkých jazykových modelů. NIST zveřejnila svůj rámec pro řízení rizik umělé inteligence. Potom tam je Bidenův výkonný příkaz.“

Cloud24

Ale sečteno a podtrženo je, že AI postupuje tak rychle, že všechny sázky na to, jak ji útočníci i obránci nasadí v příštích několika letech, jsou mimo. 

„Jedna věc, kterou řeknu o této technologii, která se liší od mnoha jiných, které jsem osobně zažil, je její jedinečná rychlost pokroku," říká Trauner. „Zatím jsem neviděl nic, co by mělo tak rychlý pokrok.“

 

CIO Business World si můžete objednat i jako klasický časopis (v tištěné i v digitální podobně) Věnujeme se nejnovějším technologiím a efektivnímu řízení podnikové informatiky. Přinášíme nové ekonomické trendy a analýzy a zejména praktické informace z oblasti podnikového IT se zaměřením na obchodní a podnikatelské přínosy informačních technologií. Nabízíme možná řešení problémů spojených s podnikovým IT v období omezených rozpočtů. Naší cílovou skupinou je vyšší management ze všech odvětví ekonomiky.

Byl pro vás článek přínosný?