Technologie založené na umělé inteligenci v praxi výrazně usnadňují práci firmám i jejich zaměstnancům. Zneužívají je ale také internetoví podvodníci a hackeři. Ti AI využívají například pro tvorbu obrázků, log či e-mailů, které imitují legitimní obsah s jehož pomocí se pak snaží dostat do interních systémů firem. Když jejich pracovníci tento podvod nedokážou odhalit, riskují, že software společnosti napadne škodlivý vir.
Největší problémy mají s podobnými útoky malé a střední firmy, které často nemají vybudované tak robustní kyberbezpečnostní systémy jako korporáty s většími rozpočty. Vůbec nejčastějším typem útoku je takzvaný ransomware, což je škodlivý program, který blokuje počítač a šifruje v něm uložená data. Za jejich odblokování hackeři po napadené firmě vyžadují výkupné. To může vystoupat i do výše desítek milionů korun.
„Ransomware útoky mohou začít phishingovým e-mailem, kdy zaměstnanec nevědomky poskytne útočníkům například svoje přístupy do firemního systému. V tomto případě mluvíme o útocích technikami sociálního inženýrství, které jsou jednou z největších hrozeb vůbec, a to i pro širokou veřejnost,“ říká Vladimíra Žáčková, specialistka kybernetické bezpečnosti společnosti Eset.
Útočník může například zneužít jméno pracovníka IT oddělení podniku a po předem vytipovaném zaměstnanci pak požaduje aktualizaci přihlašovacích údajů do běžně používané firemní aplikace. Mail může obsahovat všechny náležitosti, včetně správné fotky, adresy, loga i podpisu. Pokud se dotyčný nechá oklamat, pustí hackera „dovnitř“ a ten pak zašifruje data.
Podobným způsobem hackeři v nedávné době napadli systémy společnosti Newton Media, která se zabývá monitoringem médií. Firma kvůli tomu přišla nenávratně o třetinu veškerých dat. Přímo umělou inteligenci pak útočníci využili během tohoto léta při útoku na slovenský fitness e-shop GymBeam. Zaměstnanci firmy HN popsali, že zhruba čtvrt hodiny hovořili s deepfake videokopií zakladatele firmy Dalibora Cicmana. Hackeři se tímto způsobem snažili zjistit citlivé finanční údaje o společnosti.
Podle průzkumu společnosti Google až 43 procent malých a středních firem v Evropě mělo za poslední dva roky zkušenosti s nějakým druhem kyberútoku.
Jako ze špionážního filmu. Příběh o tom, jak elektrikáři v montérkách „hackli“ českou banku
Na nebezpečí ransomwaru upozornila v nedávné studii i přední crowdsourcingová platforma pro sdílení hrozeb VirusTotal. Ta se zabývá analyzováním podezřelých souborů, URL nebo IP adres a je jakousi databází pro lidi zabývající se kyberzabezpečením. Její experti prověřili stovky tisíc případů malwaru – škodlivého obsahu, do kterého se řadí i vyděračský ransomware – a zjistili, že při využití AI se schopnost odhalit tyto hackerské kódy zvyšuje až o 70 procent. Technologie na bázi umělé inteligence jsou tak oproti tradičním postupům až třikrát přesnější.
„Schopnost umělé inteligence analyzovat a vysvětlovat škodlivé kódy bude mít obrovský dopad na kybernetickou bezpečnost. Pracovníkům mimo tuto expertízu umožní odhalovat útoky malwaru a předcházet jim, aniž by sami museli být vysoce specializovaní a mít několikaleté zkušenosti. Kybernetickým expertům to také ušetří obrovské množství času, jež budou moci věnovat výzkumu dalších hrozeb a také tomu, jak se jim bránit,“ říká Vicente Diaz, bezpečnostní stratég VirusTotal a Google Cloud.
VirusTotal využívá aplikaci s názvem Code Insight, která je založena na nástroji Google Cloud Security AI Workbench. Aplikace automaticky analyzuje složitá skripta a hledá v nich škodlivé kódy, čímž významně usnadňuje práci kyberobráncům, kteří by jinak analýzu museli dělat manuálně. Kromě zrychlení tohoto zdlouhavého procesu umí aplikace díky zapojení generativní AI také jednoduchým způsobem vysvětlit, o jaký škodlivý kód se jedná a jaký má účel.
Výhodou je i to, že stejně jako další jazykové modely se i tento se neustále učí a na základě stále většího množství zkoumaného objemu dat své funkcionality vylepšuje. I sami tvůrci platformy VirusTotal ale upozorňují, že i techniky útočníků se díky AI stále zdokonalují. A tak je nutné, aby protivirovou analýzu vždy pečlivě studoval a vyhodnocoval i kyberbezpečnostní specialista, který výsledky dokáže zhodnotit a předejít tím chybám.
Obdobné technologie na bázi generativní umělé inteligence a velkých jazykových modelů (LLM) budou hrát v následujících letech klíčovou roli jak při kyberútocích, tak při snaze se jim bránit. Mimo jiné to vyplývá i z předpovědi Googlu pro rok 2024, konkrétně její cloudové odnože Google Cloud. Technologie budou využívány zejména pro posílení legitimity podvodného obsahu v rámci phishingových a smishingových kampaní. Pro běžného uživatele tak bude stále obtížnější odhalit falešné zprávy jen na základě faktických či gramatických chyb v e-mailových adresách či SMS zprávách.
Článek vznikl ve spolupráci se společností Google.
