ChatGPT seda artiklit ei kirjutanud – mina kirjutasin. Samuti ei palunud ma tal vastata pealkirjas esitatud küsimusele – seda teen mina. Aga ma arvan, et just nii võiks ChatGPT vastata. Õnneks on siin mõned grammatilised vead, mis tõestavad, et ma pole robot. Aga just selliseid asju võiks ChatGPT teha, et tunduda ehtne.
See praegune robotihõnguline tehnoloogia on uhke automaatvastaja, mis on piisavalt hea, et toota kodutöö vastuseid, uurimistöid, juriidilisi vastuseid, meditsiinilisi diagnoose ja hulgaliselt muid asju, mis on läbinud “lõhnauuringu”, kui neid kohelda nagu inimeste tehtud tööd. Aga kas see lisab tähenduslikult sadu tuhandeid pahavara näidiseid, mida me näeme ja töötleme iga päev, või on see lihtsalt kergesti tuvastatav võltsing?
Masinatevahelises duellis, millest tehnoloogiahuvilised on aastaid unistanud, tundub ChatGPT pisut “liiga hea”, et mitte olla tõsine võistleja, mis võiks vastaspoole masinavärgi rivist välja lüüa. Kuna nii ründaja kui ka kaitsja kasutavad uusimaid masinõppe (ML) mudeleid, siis see pidi juhtuma.
Ainult et hea antimalware süsteemi ehitamiseks pole vaja ainult robot-roboti vastasseisu. Inimlik sekkumine on alati olnud vajalik: me oleme seda juba aastaid tagasi kindlaks teinud, kuigi ML-põhiste süsteemide pooldajad, kes turule tormavad, kipuvad seda eirama – samal ajal kui nad püüavad segadust külvata, viidates oma ML-põhistele toodetele kui “AI” kasutavatele.
Kuigi ML mudeleid on kasutatud nii algelisteks eelhindamisteks kui ka keerukamaks analüüsiks, ei ole need kaugeltki “põhjus tappa pahavara” nupp. Pahavara lihtsalt pole nii lihtne.
Aga kindluse mõttes olen küsinud ka ESETi enda ML-guru käest:
K. Kui hea on ChatGPT genereeritud pahavara, või kas see on üldse võimalik?
V. Me ei ole veel “täielikult AI-ga genereeritud pahavara” lähedal, kuigi ChatGPT on päris hea koodi soovitamisel, koodinäidiste ja lõikude genereerimisel, silumisel ja optimeerimisel ning isegi dokumentatsiooni automatiseerimisel.
K. Mis saab keerukamatest funktsioonidest?
V. Me ei tea, kui hea see obfuskatsioonis on. Mõned näited puudutavad skriptikeeli nagu Python. Kuid me nägime, kuidas ChatGPT “tõlgendas” lahti võetud koodi tähendust seoses IDA Proga, mis on huvitav. Kokkuvõttes on see tõenäoliselt abivalmis tööriist programmeerija abistamiseks ja võib-olla on see esimene samm täisfunktsionaalsema pahavara loomise poole, aga mitte veel.
K. Kui hea see praegu on?
V. ChatGPT on väga muljetavaldav, arvestades, et see on suur keelemudel, ja selle võimekus üllatab isegi selle mudelite loojaid. Praegu on see aga väga pealiskaudne, teeb vigu, loob vastuseid, mis on pigem hallutsinatsioonid (st väljamõeldud vastused) ja pole tõesti usaldusväärne millegi tõsise jaoks. Kuid tundub, et see areneb kiiresti, hinnates tehnoloogiahuviliste hulka, kes sellega katsetavad.
K. Mida see praegu teha saab – mis on platvormi “madalaim rippuv vili”?
V. Praegu näeme kolme tõenäolist pahatahtliku kasutuse ja rakendamise valdkonda:
- Phishingust parem phishing
Kui arvate, et phishing oli varem veenev, siis oodake veel. Alates rohkemate andmeallikate uurimisest ja nende sujuvast kokkupanemisest spetsiifiliselt koostatud e-kirjade loomiseks, mida on väga raske sisu põhjal tuvastada, ja edukuse määr lubab paremini klikke saada. Ja te ei saa neid kiiresti kehva keelekasutuse tõttu välja praakida; nende teadmised teie emakeelest on tõenäoliselt paremad kui teie omad. Kuna suur osa kõige hullematest rünnakutest algab kellegi lingil klõpsamisest, oodake sellega seotud mõju suurenemist.
- Ransomware’i läbirääkimiste automatiseerimine
Sujuvad ransomware operaatorid on tõenäoliselt haruldased, kuid pisut ChatGPT sära lisamine suhtlusele võiks vähendada nende töökoormust, kes üritavad läbirääkimistel usaldusväärsed välja näha. See tähendab ka vähem vigu, mis võiksid võimaldada kaitsjatel tuvastada operaatorite tegelikku identiteeti ja asukohta.
- Telefonipettused muutuvad paremaks
Kuna loomuliku keele genereerimine muutub üha loomulikumaks, kõlavad kurjad petturid teie piirkonnast pärit olevatena ja peavad teie parimaid huve silmas. See on usalduspetuse üks esimesi sissejuhatavaid samme: kõlavad enesekindlamalt, öeldes, et nad on teie rahvusest.
Kui kõik see kõlab nagu tulevik, ärge panustage sellele. See ei juhtu korraga, kuid kurjategijad muutuvad peagi palju paremaks. Näeme, kas kaitse on selle väljakutsega hakkama saamiseks valmis.
ENNE KUI LAHKUTE: Kirjutamine nagu boss ChatGPT-ga ja kuidas paremini tuvastada phishing-ründeid
