Roboți care decid pe cine să omoare. Până unde vor merge giganții IT?

Organizația neguvernamentală Pax, din Olanda, a evaluat 50 de mari companii IT, după trei criterii: implicarea în proiecte tehnologice care ar putea folosi Inteligența Artificială în scopuri ucigașe, implicarea în proiecte militare și măsura în care sunt determinate să renunțe la astfel de proiecte.

”De ce mari companii, precum Microsoft sau Amazon, nu neagă faptul că în prezent dezvoltă asemenea arme capabile să ia propriile decizii, fără implicare umană?”, se întreabă Frank Slijper, autorul raportului, citat de AFP.

Folosirea Inteligenței Artificiale pentru roboți capabili să-și selecteze în mod autonom țintele a stârnit ample controverse în ultimii ani, unii observatori afirmând că noua tehnologie ar putea reprezenta un punct de cotitură în istoria umanității, de nivelul descoperirii prafului de pușcă sau a bombei atomice.

Google, care a publicat anul trecut o listă de principii orientative pentru evitarea utilizării IA în construirea de sisteme de atac, a fost una din cele 7 companii considerate ca aplicând ”bune practici” în domeniu, în cadrul unei analize care a vizat companii din 12 țări, precum compania japoneză Softbank, cu al său robot umanoid Pepper. De asemenea, Google a refuzat să reînnoiască un contract cu Pentagonul, intitulat Project Maven, pentru construirea de sisteme capabile să învețe să deosebească un om de un obiect.

În schimb 22 de companii au intrat la categoria ”mediu îngrijorător”, iar 21 la ”foarte îngrijorător”. Printre acestea din urmă, Amazon și Microsoft, ambele implicate într-un contract uriaș, în valoare de 10 miliarde de dolari, cu Pentagonul, privind livrarea de infrastructură hardware în beneficiul Armatei SUA.

Din categoria ”foarte îngrijorător”, face parte și compania Palantir, partener în cadrul unui contract de 800 de milioane de dolari cu CIA, privind dezvoltarea de sisteme IA ”care să-i ajute pe soldați să analizeze în timp real o zonă de conflict”.

”Armele autonome vor deveni, în mod inevitabil, arme de distrugere în masă, pentru că dacă omul nu e implicat, o singură entitate poate lansa milioane de astfel de arme, sau sute de milioane...”, spune profesorul Stuart Russell de la universitatea Berkely, California.

Cum vor arăta astfel de arme? Profesorul Russel spune că orice tip de armă cunoscut, tanc, avion, submarin, ar putea fi transformat într-o entitate autonomă. De exemplu drona Harpy, dezvoltată în Israel, este o entitate practic autonomă, capabilă deja să-și selecteze țintele.

Capabile să distingă diversele trăsături faciale umane, dronele ar putea ”nimic întregi grupuri etnice, sau de gen, sau, pe baza informațiilor din mass-media, oameni care au anumite convingeri politice”, mai spune omul de știință.