Umělá inteligence v rukou kyberzločinců

26.04.2023

Umělá inteligence (AI) bude zcela jistě jedním z hlavních témat roku 2023. AI, reprezentovaná zejména robotem ChatGPT, zažila obrovský boom prakticky přes noc.  Svět je aktuálně zasypaný vlnou článků, diskusí a příspěvků o možnostech, jak využít umělou inteligenci. Denně se na nás valí obrovské množství novinek. A rozhodně není jednoduché se zorientovat a najít tu správnou cestu, kam by společnost měla s její pomocí směřovat. Někteří vidí v AI obrovský potenciál pro výzkum a vývoj, zatímco jiní vnímají AI jako potenciální hrozbu, volají po zpomalení a regulaci.  Jisté ale je to, že svět pomalu poznává rizika jejího zneužití ve škole či v práci a mění svět kyberzločinu.

Phishingové kampaně s pomocí AI

AI technologie na jedné straně pomáhají při ochraně před kybernetickými hrozbami, ale zároveň je na vzestupu velký zájem kyberzločinců například o ChatGPT. Ten, ale i jakýkoliv podobný projekt, se totiž v rukou internetových podvodníků může stát velmi silnou zbraní. Robotické systémy, zaměřené na vyhledávání informací a jejich strukturalizování do textu, podvodníkům pomohou působit věrohodně, opravdově. Uvěřitelné phishingové kampaně bude tak možné vytvořit doslova lusknutím prstu.

Tvorba zlodějských malwarů a vícevrstvých šifrovacích nástrojů

Hackeři zkouší tuto dostupnou technologii používat také k psaní škodlivého kódu. Z toho plyne obava, že je jen otázkou času, kdy AI nástroje začnou využívat mnohem sofistikovanějším způsobem i profesionální hackerské skupiny.

V nedávné době hackerská fóra zaznamenala vlákna o experimentování s ChatGPT pro tvorbu malwarových kmenů. Nedávno také hacker s přezdívkou USDoD zveřejnil skript v jazyce Python, o kterém zdůraznil, že je to „první skript, který kdy vytvořil“. USDoD zároveň potvrdil, že script byl vytvořen s pomocí OpenAI. Je to ukázka, že kyberzločinci, kteří nemají téměř žádné vývojářské zkušenosti, by mohli umělou inteligenci využít k vývoji škodlivých nástrojů. A útoky na úrovni profesionálních kyberzločinců jsou zase o krok blíž i amatérům.

Zmíněné kódy lze samozřejmě použít i neškodným způsobem. Zároveň je však možné skript jednoduše upravit, aby zcela bez interakce uživatele zašifroval cizí počítač. Kód lze dokonce změnit i na ransomware, což by mohlo vyvolat paniku, protože ransomwarové útoky už tak patří mezi nejnebezpečnější hrozby současnosti.

Využití ChatGPT pro obchodování s nelegálním nebo kradeným zbožím

Kyberzločinci také ukazují, jak pomocí ChatGPT vytvořit skripty pro darkwebové tržiště a nabídnout platformu pro automatizovaný obchod s nelegálním nebo kradeným zbožím. Tím jsou kradené účty nebo platební karty, malware nebo dokonce drogy a munice, přičemž veškeré platby mohou probíhat v kryptoměnách.

Na hackerských fórech také probíhají diskuze, jak využít ChatGPT k vytváření podvodných schémat. Většinou se jedná o generování uměleckých děl pomocí jiné OpenAI technologie (DALLE2) a online prodej pomocí legitimních platforem, jako je Etsy.

Zatím není jisté, zda se zmíněný chat stane novým oblíbeným nástrojem hackerů. Nicméně kyberzločinci možnosti zneužití aktivně zkoumají a my všichni bychom měli být o to opatrnější a připravit se na nové bezpečnostní výzvy.

Použité zdroje:

• Jakub Fišer, 3 způsoby, jak proti vám mohou podvodníci využít ChatGPT, www.smartmania.cz
• Kyberzločinci úspěšně využívají chat s umělou inteligencí, varují experti, www.businessinfo.cz