Kako umjetna inteligencija nadmudri email filter

Tradicionalni email filteri godinama su se oslanjali na prepoznavanje poznatih obrazaca: loše gramatike, sumnjivih poveznica, crnih lista (blacklists) domena i prepoznatljivih potpisa zlonamjernog softvera (malwarea). Međutim, kriminalci danas koriste AI kako bi u potpunosti zaobišli ove obrambene mehanizme.

Obrambena strana trenutno kaska za napadačima. Korištenjem naprednih jezičnih modela, automatizacije i tehnika strojnog učenja, napadači kreiraju emailove koje su tradicionalnim filterima nevidljivi, a ljudima nevjerojatno uvjerljivi. U nastavku donosimo analizu taktika kojima se napadači služe kako bi nadmudrili moderne sustave zaštite.

Zaobilaženje Email filtera

Jedan od prvih znakova za prepoznavanje phishinga povijesno su bile pravopisne pogreške i neobičan stil pisanja, što je filterima olakšavalo detekciju. Uz pomoć LLM alata, napadači sada generiraju tekstove s besprijekornom gramatikom i sintaksom.

Što je još opasnije, AI može analizirati javno dostupne tekstove kako bi savršeno kopirao ton i stil pisanja specifične osobe. Kada filter analizira tekst, ne pronalazi nikakve anomalije u jeziku, zbog čega poruka nesmetano stiže u inbox. Čak su i timovi iza vodećih modela poput Google Gemini, Anthropic i OpenAI objavili istraživanja u kojima potvrđuju da su uočili napadače kako koriste njihove LLM-ove za slanje visoko sofisticiranih kampanja.

Kolaps između masovnosti i preciznosti (Hiper-personalizacija)

Usmjereni phishing (spear-phishing) oduvijek je bio učinkovit, ali je zahtijevao mnogo vremena za istraživanje žrtve. Umjetna inteligencija je u potpunosti srušila jaz između masovnog slanja (scale) i preciznosti (precision).

Napadači koriste AI za automatizirano prikupljanje podataka i generiranje poruka. Rezultat su masovne, a istovremeno hiper-personalizirane kampanje u kojima AI svakoj žrtvi pristupa individualno (npr. spominjanjem zajedničke škole, određenog grada ili trenutnog projekta). Budući da je svaka poruka unikatna i ciljana, tradicionalni NLP (natural language processing) filteri zakazuju.

Iskorištavanje povjerenja i slabost “crnih lista”

Razvija se još jedan ozbiljan trend: održavanje statičnih crnih lista (blacklists) sumnjivih domena postaje veći sigurnosni rizik nego korist. Napadači danas aktivno proučavaju koje domene vaša organizacija ima na “bijeloj listi” (allow-list), odnosno koje domene smatrate pouzdanima.

Kada otkriju te podatke, oni usmjeravaju napade upravo kroz te odobrene i provjerene domene. Kada primite hiper-personalizirani napad s domene poslovnog partnera kojem u potpunosti vjerujete, takvu je prijetnju iznimno teško otkriti tradicionalnim mjerama.

Tromost sigurnosnih timova vs. agilnost napadača

Jedan od razloga zašto obrana zaostaje je ljudska psihologija. Profesionalci koji održavaju sustave često pokazuju otpor prema promjenama jer se oslanjaju na stečene rutine i tradicionalne, centralizirane “black-box” modele zaštite.

S druge strane, napadači nemaju takvih oklijevanja. Isključivo su fokusirani na misiju: ako se pojavi novi alat (poput naprednog LLM-a) koji im pomaže da brže i lakše ostvare ciljeve, oni će ga usvojiti istog trenutka. Ta asimetrija u prilagodbi daje kriminalcima kritičnu prednost na tržištu.

Skrivanje elemenata i novi izazovi s identitetima

Osim tekstualnih napada kod kojih AI stalno mijenja strukturu rečenica kako bi izbjegao detekciju, napadači koriste i vizualni phishing:

• Quishing (QR code phishing): Filteri skeniraju tekst, ali propuštaju slike poput QR kodova. Korisnik skeniranjem koda mobitelom zaobilazi korporativne zaštitne mreže.
• Problem ne-ljudskih identiteta (Non-human identities): Definicija identiteta se mijenja, a sustavi se moraju prilagoditi provjeri strojnih i ne-ljudskih identiteta koji također komuniciraju unutar mreže.

Zaključak

Zloupotreba umjetne inteligencije pretvorila je email phishing u sofisticiranu, automatiziranu i teško uočljivu prijetnju. Većina trenutačnih rješenja na tržištu jednostavno ne može držati korak s novim tehnikama jer nisu dizajnirana da iskoriste puni potencijal LLM-ova.

Ključ uspješne obrane je u tome da počnemo koristiti velike jezične modele u vlastitu korist kako bismo održali korak. Napadači koriste LLM-ove, mi moramo učiniti isto, ili ćemo zaostajati još više. Umjesto oslanjanja na samo jedan izolirani signal (poput privitka), moderni sustavi moraju koristiti AI agente koji analiziraju složene kombinacije različitih signala i indikatora kompromitacije koje nikada prije nismo vidjeli.

Često postavljana pitanja (FAQ)