Roboţii care ne iubesc şi ne omoară

sursa: descoperă.ro

Toţi cei care au visat să aibă un prieten robot, cu care să împărtăşească emoţiile ca şi toţi cei care se tem că va veni o vreme în care roboţii ne vor fi duşmani şi vor căuta să ne ucidă, ar putea fi interesaţi să afle ce gândesc specialiştii despre aceste perspective, în lumina celor mai noi cercetări în domeniu.

E greu de spus dacă noutăţile aflate vor părea dezamăgitoare ori reconfortante şi, potrivit descoperă.ro, oricum, ca în orice domeniu care se dezvoltă foarte rapid, noutăţile se învechesc repede.

Şi totuşi, e interesant să aflăm ce gândesc oamenii de ştiinţă în acest stadiu al dezvoltării roboticii despre o viitoare lume în care prezenţa acestor maşinării gânditoare ne-ar putea deveni familiară. Oare cum ar fi?

Roboţi cu „suflet”?

Iată o primă problemă: este posibilă crearea unor roboţi conştienţi şi simţitori? Roboticienii se străduiesc de decenii să-i înveţe pe roboţi cum e cu emoţiile umane, în speranţa că, într-o zi, vom putea să comunicăm cu ei de la egal la egal şi să ne înţelegem „omeneşte”.

Dar un studiu foarte recent pe această temă ne dezumflă speranţele. Roboţii nu vor fi niciodată ca noi: crearea de roboţi cu sentimente este imposibilă, susţin cercetătorii.

Computerele nu pot întrece în complexitate un creier uman, cred unii dintre specialiştii în domeniu.

Algoritmul te cruţă sau te ucide?

Vorbind despre algoritmii extrem de complecşi utilizaţi pentru programarea sistemelor de inteligenţă artificială, ajungem la implicaţiile etice ale comportamentului acestor sisteme, comportament pe care zisele sisteme nu-l adoptă de capul lor, ci exact în baza algoritmului care le-a fost „băgat în cap” de către oameni. Proiectarea acestor algoritmi pe baza unor principii generale foarte corecte („protejează viaţa umană”, „fă cât mai puţin rău” etc.) ne-ar putea băga în nişte hăţişuri etice extrem de încâlcite, în care orice soluţie la o problemă creează noi probleme, iar alegerile aparent corecte sunt, de fapt, dubioase.

Cât de înţelept este să lăsăm roboţii să ia decizii în probleme de viaţă şi de moarte?

Un exemplu interesant ar fi maşinile autonome –„fără şofer” – care ar putea deveni, peste doar câteva decenii, o realitate la fel de banală ca şi maşinile cu şoferi umani de azi.

O asemenea maşină ar fi pusă, zi de zi, în faţa unor decizii pe care computerul ei – care-i serveşte drept creier – le-ar lua pe baza algoritmilor învăţaţi.

Pare simplu, dar nu este; implicaţiile ar putea fi foarte serioase, iar industria maşinilor ar putea ajunge pe un drum tare alunecos, din punct de vedere legal şi moral, după cum spune dr. Patrick Lin, profesor de filosofie la California Polytechnic State University.

Oricum ar fi, ideea este că dezvoltarea maşinilor autonome – şi prin extensie, a oricărui tip de roboţi autonomi – implică aspecte etice foarte serioase şi pune problema responsabilităţii morale şi legale, nu a maşinăriilor, fireşte, ci a celor care le-au programat.

Învăţaţi să ucidă

Dacă maşinile fără şofer care aleg cine să moară şi cine să trăiască vi se par înfricoşătoare, ce să mai spunem de roboţii de luptă instruiţi pe baza unui algoritm care implică şi el discriminarea şi selecţia?

Departe de a fi doar un element al universului SF, „roboţii ucigaşi” autonomi au devenit realitate: nu numai că tehnologia există, dar a şi început să fie pusă în practică. Se vorbea de mult despre ea, dar, atâta vreme cât nu fusese implementată, ne amăgeam cu speranţa că poate asta nu se va întâmpla niciodată.

Dar, recent, Rusia a anunţat o acţiune fără precedent: instalarea unor roboţi mobili autonomi, înzestraţi cu mitraliere de calibrul 12,7 mm şi alte arme, pentru a păzi 5 instalaţii de rachete balistice.

Roboţii vor putea detecta şi distruge orice ţintă pe care ei o consideră periculoasă (rămâne de văzut ce-i vor învăţa în această privinţă programatorii lor), ei urmând să acţioneze „de capul lor”, fără implicarea unor oameni. Un asemenea robot se deplasează foarte repede, putând atinge viteze de 45 km/h, deci poate literalmente „fugări” un intrus, până când îl ţinteşte cu precizie şi îl ucide, absolut autonom.

Spre deosebire de Rusia, în SUA se consideră că decizia de a folosi armamentul din dotarea sistemelor robotice trebuie luată totuşi, în fiecare caz, de un operator uman.

Chiar dacă multe ţări au adoptat în această privinţă, atitudinea americanilor şi nu pe cea a ruşilor, problema roboţilor înarmaţi capabili (şi lăsaţi) să decidă singuri când să deschidă focul este una extrem de îngrijorătoare.

ONU a convocat recent o întrunire la care s-a discutat tocmai acest aspect: viitorul aşa-numitelor Lethal Autonomous Weapons Systems (LAWS), în vederea unei reglementări stricte a utilizării acestor arme, ce ar putea duce la restricţionarea sau chiar interzicerea folosirii unora dintre ele. În luna noiembrie a acestui an, discuţiile din cursul acestei întâlniri preliminare vor fi reluate în cadrul unei întâlniri mai ample: Convention on Certain Conventional Weapons. Practic, e o recunoaştere a faptului că LAWS sunt pe cale de a deveni un pericol, că au ieşit din laboratoarele de cercetări şi ameninţă să devină parte din realitatea de zi cu zi pe care o trăim.