Phishing je dobro poznato oružje kibernetičkih kriminalaca, koji ga koriste kako bi na prijevaru naveli primatelje e-poruke na klikanje poveznice koja će pokrenuti preuzimanje zlonamjernog softvera ili ih pridobiti za upisivanje osobnih podataka kao što su lozinke ili PIN-ovi.

Sve dosad jedan od njegovih glavnih nedostataka bili su loš pravopis i gramatika, koji bi izazvali sumnju kod čitatelja i alarmirali filtere neželjene pošte. Taj nedostatak sad uklanjaju chatbotovi temeljeni na umjetnoj inteligenciji.

Podaci tvrtke za kibernetičku sigurnost Darktrace ukazuju na to kako se ChatGPT i slične alate koristi za kibernetički kriminal. Ne samo što eliminiraju pravopisne pogreške, već omogućavaju i sastavljanje duljih i uvjerljivijih poruka kojima je lakše zavarati filtere, čak i ako kriminalci ne vladaju dobro engleskim jezikom.

Otkako je ChatGPT postao popularan krajem prošle godine ukupna količina zlonamjernih prijevara putem e-pošte koje je zabilježio Darktraceov nadzorni uređaj je pala, ali je jezična složenost tih e-poruka naglo porasla.

To upućuje na zaključak kako je znatan broj prevaranata koji sastavljaju phishing i druge zlonamjerne e-poruke stekao određenu sposobnost pisanja dužih, složenijih tekstova, vjerojatno uz pomoć ChatGPT-ja i sličnih alata.

Policijska organizacija Europol također je upozorila na skup potencijalnih problema uzrokovanih porastom chatbota s umjetnom inteligencijom, uključujući prijevare i socijalni inženjering, dezinformacije i kibernetički kriminal.

Check Point, američko-izraelska tvrtke za kibernetičku sigurnost, objavila je kako je upotrijebila najnoviju generaciju ChatGPT-ja za izradu naizgled vjerodostojne phishing e-pošte. Zaobišli su sigurnosne postavke chatbota rekavši alatu da mu je potreban predložak phishing e-pošte za program podizanja svijesti zaposlenika.

Googleov Bard također se pokazao kao podložan za zlonamjerne manipulacije te vrste, piše Guardian.