ChatGPT și ”democratizarea” criminalității cibernetice (analiză France24)

„Câștigați 1.000 de dolari pe zi cu ChatGPT” sau „Acest mod simplu de a face bani cu ChatGPT”. De la începutul anului, mesaje similare, decriptate de experții companiei de securitate cibernetică Check Point, au început să apară tot mai des pe forumurile populare în rândul infractorilor cibernetici.

Într-adevăr, noua descoperire din domeniul inteligenței artificiale, extrem de populară de la sfârșitul lunii noiembrie 2022, nu servește numai studenților care cer ajutorul programului ChatGPT pentru a-și face temele sau colegilor de birou convinși că acest instrument ne va înlocui în curând.

E-mailuri înșelătoare și coduri rău intenționate

Capacitățile acestui program de ultimă generație creat de OpenAI – adică un „bot” capabil să răspundă la întrebările care i-au fost adresate și să poarte o discuție – au stârnit interesul hackerilor.

„Începem să înțelegem concret ce vor infractorii cibernetici să facă cu ChatGPT”, recunoaște Gérôme Billois, expert în securitate cibernetică la firma de consultanță în securitate IT Wavestone.

Această inteligență artificială a început prin a ajuta infractorii cibernetici să... scrie e-mailuri. Dar nu orice fel de e-mailuri: mesaje de „phishing”, adică destinate să determine țintele să acceseze link-uri suspecte sau să descarce atașamente care conțin viruși.

Interesul este mai presus de toate „de a permite celor care nu vorbesc engleza să scrie e-mailuri fără greșeli gramaticale și care să pară profesionale”, precizează Gérôme Billois. Era e-mailurilor false trimise dintr-o țară din Europa de Est într-o engleză stâlcită a luat sfârșit. „De exemplu, un infractor cibernetic poate cere ChatGPT să scrie un e-mail ca și cum ar fi un chirurg care comunică cu un coleg”, afirmă Hanah Darley, expert în securitate informatică pentru Darktrace, o companie americană de apărare cibernetică, într-un interviu pentru site-ul web TechCrunch.

„De la sfârșitul lunii decembrie, am găsit pe unul dintre principalele forumuri ale infractorilor cibernetici în limba engleză un individ care a postat un cod rău intenționat creat cu ajutorul instrumentului de la OpenAI. Era o persoană care a mărturisit că nu știe prea multe despre programare”, a declarat Sergey Shykevich, de la Check Point.

De aici și teama că ChatGPT va favoriza apariția unei generații de hackeri nu tocmai pricepuți la programare, dar ajutați de inteligența artificială. Un fel de democratizare a criminalității cibernetice, datorită acestui instrument care ar putea scrie viruși în locul infractorului.

„Este cert că ChatGPT face codurile rău intenționate mai accesibile necunoscătorilor”, recunoaște Eran Shimony, analist senior în securitate informatică pentru compania americană CyberArk.

Dar „este nevoie de mai mult decât de un cod rău intenționat pentru a pătrunde într-un sistem informatic”, adaugă John Fokker, de la compania de securitate cibernetică Trellix. ”ChatGPT poate fi doar o mică verigă în lanțul criminalității cibernetice. Este necesar să se pună la punct infrastructura atacului, să se urmărească operațiunile, să se știe ce informații sunt sensibile și pot fi apoi monetizate pe internet”.

Un fel de Google Translate criminal

”În actualul stadiu, ChatGPT nu testează eficacitatea codurilor rău intenționate pe care le poate genera și este nevoie de un anumit know-how pentru a verifica rezultatul”, explică Gérôme Billois. "Am văzut că un cod nu este întotdeauna perfect. Este similar programului de traducere de la Google: este bun, dar tot trebuie să îmbunătățiți puțin rezultatul", rezumă Sergey Shykevich.

Prin urmare, ChatGPT nu este o armă masivă de piraterie pentru hackerii începători. Cu toate acestea, poate face partea întunecată a securității informatice mai accesibilă.

Acest „bot” poate deveni un profesor bun. „Poate fi util în special pentru generația mai tânără de hackeri, care înainte trebuia să petreacă ore întregi citind sau discutând pe forumuri. Le poate accelera pregătirea”, spune John Fokker. Mai presus de toate, este cu atât mai atractiv cu cât are o „interfață mult mai intuitivă și generează răspunsuri mai precise decât predecesorii săi”, afirmă Gérôme Billois.

OpenAI a încercat să impună unele măsuri de protecție pentru a preveni utilizarea rău intenționată a robotului.

Dar „aceste filtre sunt destul de ușor de ocolit”, spune Omer Tsarfati, cercetător senior în Securitate informatică la compania CyberArk. De exemplu, este nevoie doar de un gram de subtilitate în formularea întrebării – de exemplu, e suficient să spuneți că predați securitate informatică  și doriți să dați un exemplu de virus studenților – pentru a determina ChatGPT să producă codul rău intenționat, afirmă unul dintre experții intervievați de France 24. În plus, există deja pe forumurile în limbă rusă, infractori cibernetici care oferă soluții pentru a contracara interdicția geografică.

Dacă apariția ChatGPT generează un asemenea interes în comunitatea hackerilor, nu este doar pentru că poate ajuta o nouă generație de infractori cibernetici să evolueze. Acest instrument poate fi la fel de util și pentru hackerii mai experimentați. „Am reușit să-l folosim pentru a dezvolta un virus polimorf”, adică care își poate schimba forma pentru a fi mai dificil de detectat, spune Eran Shimony....

Articolul France24 integral aici

Traducere de Adriana Petrescu