Rozsiahly výskum, ktorý takmer presne pred rokom uskutočnila spoločnosť Barracuda Networks spolu s univerzitami v Kolumbii a Chicagu, prišiel so znepokojivým zistením. Väčšinu spamových e-mailov, konkrétne 51 percent, vytvorila generatívna umelá inteligencia.
Tá preukázateľne vytvára oveľa uveriteľnejšie podvodné e-maily ako človek. Dokonca tak, že ich čím ďalej, tým častejšie neodhalia ani automatické spamové filtre.
V čase pred vzostupom veľkých jazykových modelov bolo možné phishing a spam veľmi ľahko odhaliť obyčajnou kontrolou e-mailu z pohľadu štylistiky a množstva pravopisných a gramatických chýb. Kostrbaté e-maily plné chýb totiž boli ukážkovým príznakom phishingových a ďalších podvodných kampaní.
Generatívna umelá inteligencia tento príznak nielen eliminovala, ale s tým, ako sa stále zlepšuje, sú útoky, ktoré ju využívajú, stále efektívnejšie. Realita sa tak stáva čoraz viac dystopickou.
Partner pražskej venture kapitálovej spoločnosti Presto Ventures a spoluzakladateľ Českej startupovej asociácie Vojta Roček publikoval nedávno zdanlivo apokalyptický a pomerne obsiahly tweet, v ktorom tvrdí, že sme iba niekoľko mesiacov od obdobia, v ktorom prakticky prestanú fungovať spamové filtre v e-mailoch a po nich tiež ďalšie pasívne mechanizmy zabezpečenia, na ktoré sme sa v minulosti spoliehali.
