Microsoft i OpenAI otkrili su da hakeri sve više koriste napredne jezičke modele poput ChatGPT-a za poboljšanje svojih cyber napada. Ova nova strategija omogućava hakerskim grupama iz Rusije, Severne Koreje, Irana i Kine da istražuju mete, unapređuju skripte i razvijaju tehnike društvenog inženjeringa sa većom preciznošću i efikasnošću.
Strategije i metode napadača
– Ruska grupa Strontium koristi LLM-ove za razumevanje složenih tehnoloških protokola i optimizaciju tehničkih operacija. Ova grupa, poznata i kao APT28 ili Fancy Bear, bila je aktivna tokom rusko-ukrajinskog sukoba i uticala na predsedničku kampanju Hillary Clinton 2016. godine.
– Severnokorejska grupa Thallium koristi LLM-ove za istraživanje sigurnosnih ranjivosti i kreiranje sadržaja za phishing kampanje.
– Iranski hakeri Curium generišu phishing emailove i kodove za izbegavanje detekcije antivirusnim programima pomoću LLM-ova.
– Kineski hakeri koriste LLM za istraživanje, pisanje skripti, prevode i unapređenje svojih alata.
Zabrinutost i odgovor na pretnje
Upotreba AI tehnologije u cyber napadima izaziva zabrinutost, posebno s pojavom alata kao što su WormGPT i FraudGPT, koji olakšavaju kreiranje zlonamernih emailova i alata za probijanje sigurnosnih sistema. Agencija za nacionalnu sigurnost upozorila je da hakeri koriste AI za stvaranje uvjerljivijih phishing emailova.
Iako Microsoft i OpenAI nisu otkrili „značajne napade“ koji koriste LLM-ove, preduzete su mere za gašenje računa i imovine povezane sa hakerskim grupama. Microsoft ističe važnost objavljivanja ovakvih istraživanja kako bi se razotkrile preteće taktike i podelile informacije o tome kako se odupreti i blokirati takve napade.
AI kao odgovor na AI napade
Microsoft naglašava da, iako AI može pomoći hakerima da unesu sofisticiranost u svoje napade, isti alati mogu se koristiti i za zaštitu, otkrivanje i odgovor na pretnje. Kompanija razvija Security Copilot, AI asistenta namenjenog profesionalcima za cyber sigurnost, kako bi se poboljšalo identifikovanje problema i razumevanje podataka generisanih alatima za cyber sigurnost.
Ovaj trend pokazuje da će borba između cyber napadača i branilaca sigurnosti sve više uključivati napredne AI tehnologije, što zahteva kontinuirano unapređenje alata i metoda za očuvanje digitalne bezbednosti.
