INTERESANT de citit // Beneficiile și riscurile inteligenței artificiale

Inteligența artificială (AI), un concept care până nu demult era folosit doar de amatorii de literatură și filme SF și de fanii jocurilor pe calculator, a ajuns în ultimii ani un subiect de controverse, pe de-o parte plasându-se cei care consideră că viitorul le aparține oamenilor care, cu ajutorul inteligenței artificiale vor ajunge să rezolve toate enigmele Universului asigurându-și chiar nemurirea, iar de cealaltă parte se află cei care avertizează cu privire la pericolul „trezirii” unei super-conștiințe artificiale care ar putea ajunge să fie animată de propriile scopuri, iar proliferarea speciei umane ar putea să nu fie unul dintre aceste scopuri, ne spune AGERPRES.

Dar ce este inteligența artificială? Deocamdată un domeniu de cercetare în cadrul informaticii, inteligența artificială a fost definită de informaticianul american John McCarthy în 1955 drept „o mașină care se comportă într-un mod care ar putea fi considerat inteligent, dacă ar fi vorba de un om”. Mai general, inteligența artificială vizează programarea și studierea sistemelor inteligente care percep mediul înconjurător și contribuie la atingerea unor obiective fixate de om.

De la SIRI la automobilele care se conduc singure, inteligența artificială progresează rapid. Dacă în filmele sau romanele SF inteligența artificială este prezentată sub forma unor roboți cu caracteristici umanoide, în realitate ea este mult mai răspândită, de la roboții industriali care trebuie să îndeplinească anumite sarcini în procesul de producție și au capacitatea de a-și perfecționa modul în care îndeplinesc aceste sarcini, până la algoritmii Google sau ai altor motoare de căutare pe internet și până la sistemele care controlează automat încălzirea, aerisirea sau luminozitatea unei clădiri de birouri, în scopul optimizării consumului și scăderii amprentei sale de carbon.

Mai mult decât benignă, în prezent inteligența artificială îndeplinește anumite funcții specifice, cu un grad mai ridicat sau nu de complexitate. Aceasta este cunoscută drept AI slab (weak AI) și este concepută pentru a putea realiza o sarcină simplă (de exemplu, doar să realizeze recunoașteri faciale sau să caute rezultate pe internet relevante pentru anumiți termeni introduși în motorul de căutare sau să conducă un autoturism). Obiectivul pe termen mediu și lung al multor cercetători din domeniul informaticii este însă de a obține așa-numitul AI tare sau AI general. Dacă AI-ul slab este conceput să depășească performanțele umane în sarcini specifice, cum ar fi la jocul de șah sau Go sau în rezolvarea unor ecuații, AI-ul tare, dotat cu capacitatea de auto-învățare, ar urma să depășească omul în orice sarcină cognitivă.

De ce este nevoie de măsuri de siguranță atunci când se lucrează cu AI?

Pe termen scurt, obiectivul de a menține un impact benefic al AI asupra societății motivează cercetarea în mai multe domenii, de la economie și drept până la subiecte tehnice așa cum sunt verificarea, validarea, securitatea și controlul. Astfel, dacă poate fi un „ghinion” minor, dacă ți s-a virusat laptopul pe care-l folosești pentru jocuri, problema capătă o cu totul altă magnitudine când, spre exemplu, apare o problemă cu sistemul AI care-ți conduce automobilul, avionul în care te afli sau pacemaker-ul. O altă provocare pe termen scurt este de a preîntâmpina o eventuală cursă a înarmării cu armament autonom de distrugere în masă.

Pe termen mediu și lung, trebuie să ne întrebăm ce se va întâmpla dacă obiectivul realizării așa-numitului AI puternic va fi atins și de atunci înainte inteligența artificială va deveni mai bună decât oamenii la orice sarcină cognitivă. Așa cum observa în 1965 I.J. Good (matematician și criptolog britanic care a colaborat cu mai celebrul Alan Turing), programarea unor sisteme AI mai performante este, în sine, o sarcină cognitivă. Un AI puternic s-ar putea rescrie singur, îmbunătățind, extrapolând sau pur și simplu renunțând la anumite atribute ce i-au fost fixate de programatorii umani inițial. Un astfel de AI ar avea o dezvoltare exponențială care ar lăsa foarte rapid inteligența umană cu mult în urmă – iar aici este vorba despre diferențe de ordin calitativ și cantitativ enorme, similare celor existente între inteligența umană și câini, spre exemplu.

Dezvoltarea unor noi tehnologii revoluționare, așa cum este o superinteligență artificială, ne poate ajuta să eradicăm războiul, boala, sărăcia, chiar mortalitatea, și astfel obținerea unui AI puternic ar putea fi cel mai important eveniment din istoria omenirii, semnalând o schimbare de paradigmă completă față de trecut. Unii experți au avertizat însă că o astfel de nouă revoluție tehnologică ar putea fi și ultima pentru specia umană, dacă nu vom reuși să ne asigurăm că obiectivele urmate de AI nu vor fi întotdeauna aceleași cu obiectivele omenirii. Cumva va trebui să ne asigurăm de acest lucru înainte ca respectivul AI să devină o superinteligență.

Există unii sceptici care susțin că probabil omenirea nu va reuși niciodată să obțină un AI puternic, așa cum sunt și unii care sunt convinși că apariția unui AI superinteligent va fi în mod garantat benefică sau, dimpotrivă, că va însemna cu certitudine sfârșitul omenirii.

Dar de ce ar fi inteligența artificială periculoasă?

Majoritatea oamenilor de știință sunt de acord că un AI superinteligent, chiar și dacă ar deveni conștient, nu va ajunge să manifeste emoții umane precum dragostea sau ura, nu va fi empatic și nu există niciun motiv pentru care să credem că ar deveni în mod intenționat benefic sau malefic. Există însă două scenarii care descriu modul în care inteligența artificială ar putea deveni o amenințare pentru omenire:

– Un sistem AI puternic este programat să facă ceva cu impact devastator: Armele autonome, spre exemplu, se bazează pe sisteme AI programate să ucidă. În mâinile unei persoane rău intenționate, astfel de arme pot provoca distrugeri în masă. Mai mult decât atât, o cursă a înarmării cu arme inteligente poate duce la un război între sisteme AI ce ar face numeroase victime umane. Pentru a evita escaladarea unui conflict și pentru a accentua funcția de „descurajare” a unui astfel de arsenal inteligent, aceste arme ar fi, prin design, dificil de declanșat, dar chiar și așa oamenii ar putea să piardă controlul asupra lor. Acest risc este prezent chiar și în cazul armelor echipate cu așa-numitul AI slab. În cazul unui AI superinteligent, autonom, riscul crește exponențial.

– Un sistem AI este programat să facă ceva benefic, dar își dezvoltă singur o metodă destructivă de a atinge respectivul obiectiv, ceva în genul „scopul scuză mijloacele”. Acest lucru se poate întâmpla dacă nu reușim să aliniem perfect obiectivele programate în AI propriilor obiective, ceea ce devine cu atât mai greu cu cât sistemul de inteligență artificială este mai performant. Dacă îi soliciți unui automobil autonom să te ducă de urgență la aeroport, ai putea să ajungi la destinație extrem de repede, dar urmărit de elicopterele poliției și acoperit de vomă. De asemenea, dacă un sistem superinteligent este însărcinat cu un complex proiect de geoinginerie, ar putea distruge ecosistemul ca efect secundar și ar putea interpreta eforturile oamenilor de a-l opri drept o amenințare ce trebuie eliminată.

Așa cum ilustrează aceste exemple, principalul pericol reprezentat de un AI superinteligent nu este reaua voință și competența absolută. Un astfel de sistem AI ar fi extraordinar de bun să-și atingă obiectivele, iar dacă aceste obiective nu sunt perfect aliniate cu binele omenirii, atunci vom avea cu adevărat o problemă. Ce se întâmplă dacă un AI superinteligent însărcinat să rezolve problema încălzirii globale ajunge la concluzia că distrugerea omenirii ar însemna salvarea planetei? Probabil că niciunul dintre noi nu urăște în mod deosebit furnicile, însă dacă trebuie construit un drum, spre exemplu, atunci câteva mușuroaie de furnici care ne stau în cale nu vor însemna nimic pentru constructori. Astfel, oamenii de știință trebuie să se asigure că, din perspectiva unui sistem AI puternic, oamenii nu vor fi niciodată precum furnicile din exemplul de mai sus.

De ce am devenit așa, dintr-o dată, atât de interesați de pericolele potențiale ale sistemelor AI?

Stephen Hawking, Elon Musk, Steve Wozniak sau Bill Gates sunt doar câteva dintre numele gigantice în știința și tehnologia prezentului care și-au exprimat deschis îngrijorarea cu privire la riscurile reprezentate de sistemele AI superinteligente.

Elon Musk, implicat, printre altele, în cercetare și inovare tehnologică de ultimă generație atât în proiecte pentru explorări și colonizare spațială prin compania SpaceX, cât și în domeniile energiilor regenerabile nepoluante și a automobilelor electrice fără șofer, avertizează că dezvoltarea sistemelor AI ar putea duce la apariția unui „dictator nemuritor”.

Dacă suntem chemați să ne gândim la cei mai cruzi dictatori din istoria omenirii, probabil că primele imagini care ne vin în minte sunt cele ale lui Hitler și Stalin. Ei bine, să ne imaginăm că unul dintre cei doi nu ar fi deloc uman, ci o rețea de milioane de calculatoare interconectate de pretutindeni din lume. Un astfel de dictator digital ar avea acces în orice moment la orice informație existentă în bazele de date despre orice om din trecut sau prezent. Un astfel de sistem AI, capabil de milioane de calcule într-o fracțiune de secundă, va controla economia globală și sistemele militare cu un nivel de autonomie la care Hitler sau Stalin, care aveau armate de consilieri și oameni de încredere, nici nu ar fi putut visa. Iar cel mai de temut atribut al unui astfel de sistem AI care ar ajunge să conducă omenirea este că nu va muri niciodată.

Acest dictator digital nemuritor, conform lui Elon Musk, fondatorul companiilor Tesla și SpaceX, reprezintă încununarea unuia dintre cele mai sumbre scenarii care pândesc omenirea dacă dezvoltarea inteligenței artificiale va continua nereglementată corespunzător.

„Ne îndreptăm rapid spre apariția unei superinteligențe artificiale care va depăși cu mult orice inteligență umană. Și cred că acest lucru este destul de evident”, susține Musk în noul documentar despre inteligența artificială intitulat „Do You Trust This Computer?” (Ai încredere în acest calculator?), regizat de Chris Paine (care l-a mai intervievat pe Musk și pentru documentarul „Who Killed The Electric Car?”). „Dacă o companie sau un grup mic de oameni reușește să dezvolte o superinteligență artificială, ar putea prelua controlul asupra întregii lumi”, a adăugat el.

Diferiți oameni sau grupuri au încercat și înainte, fără succes, să preia controlul asupra întregii lumi. Un sistem AI de factură autoritaristă ar avea însă un avantaj enorm asupra oricărui dictator din istorie. „Cel puțin, în cazul unui dictator uman, oricât de crud și de puternic ar fi, știm că într-o zi acel om va muri. Însă un dictator AI nu va muri niciodată. El va trăi pentru totdeauna. Se va transforma într-un dictator nemuritor de care nu vom putea scăpa niciodată”, a susținut Musk.

Elon Musk sublinia încă din 2014 că inteligența artificială reprezintă „cea mai mare amenințare existențială” la adresa omenirii, iar în 2015 s-a alăturat unui grup format din minți luminate din mai multe domenii de activitate, printre care și fizicianul britanic Stephen Hawking, grup care a solicitat ONU să interzică dezvoltarea de roboți militari autonomi.

Ca și Elon Musk, Hawking face parte dintr-un grup restrâns dar în creștere de oameni de știință care și-au exprimat îngrijorarea cu privire la viitorul Inteligenței Artificiale. „Dezvoltarea unei inteligențe artificiale complete ar putea însemna sfârșitul speciei umane”, declara Hawking pentru BBC în decembrie 2014.

Această declarație a fost făcută drept răspuns la o întrebare despre noul sintetizator inteligent de voce pe care îl folosea savantul. Iar cum un sistem AI puternic are potențialul de a deveni exponențial mai inteligent decât orice om, nu avem nicio certitudine cu privire la cum ar putea alege să se manifeste o astfel de mașinărie. Până la urmă, poate cel mai bun exemplu despre ce ar putea să ne aducă viitorul ne-a fost oferit deja de propria evoluție. Oamenii sunt niște animale care nu excelează la nimic, cu excepția inteligenței. În prezent, omenirea se află la capătul superior al lanțului trofic planetar nu pentru că omul este cel mai puternic, cel mai rapid sau cel mai mare dintre animale, ci pentru că este cel mai inteligent dintre ele. Omenirea va putea oare să păstreze controlul dacă nu va mai fi cea mai inteligentă entitate de pe Pământ?

Care sunt principalele mituri despre AI?

Un prim mit este legat de cronologie: cât de mult va dura până când mașinile vor depăși inteligența umană? Cea mai comună greșeală este să ne imaginăm că deja știm răspunsul la această întrebare. Pentru mulți, vom dispune de AI cu inteligență superumană încă din acest secol. De fapt, nu putem ști, iar istoria recentă este străbătută de un fir al pozitivismului științific și tehnic care de multe ori s-a dovedit a fi prea optimist. Unde sunt centralele atomice de fuziune nucleară care ar trebui să ne ofere energie nelimitată și gratuită? Unde sunt automobilele zburătoare?

Acest pozitivism s-a manifestat încă de la părinții inteligenței artificiale. Astfel, John McCarthy (cel care a propus termenul de inteligență artificială - n.r.) Marvin Minsky, Nathaniel Rochester sau Claude Shannon descriau, cu mult optimism, ce se va putea obține în doar două luni (!) de studiu și dezvoltare dedicată a inteligenței artificiale pe computerele din „epoca de piatră a informaticii”, disponibile în 1956.

„Noi propunem organizarea unui studiu de două luni asupra inteligenței artificiale, în timpul vacanței de vară, la Dartmouth College, la care să participe 10 oameni de știință dedicați. Vom încerca în acest timp să facem mașinile să folosească limbajul, să formeze abstracții și concepte, să rezolve genul de probleme pe care acum doar oamenii le pot rezolva și să se autoperfecționeze. Credem că putem înregistra progrese semnificative cel puțin într-una din aceste direcții dacă un grup atent selectat de oameni de știință vor lucra împreună la aceste lucruri în cursul verii”.

Un alt mit popular este, de fapt, o replică la mitul prezentat mai sus: nu vom dispune de AI superinteligent până la sfârșitul acestui secol și că, de fapt, nu-l vom avea niciodată pentru că este practic imposibil de obținut.

Mulți cercetători care lucrează în dezvoltarea sistemelor AI și-au dat probabil ochii peste cap când au citit acest titlu: „Stephen Hawking avertizează că dezvoltarea roboților ar putea însemna un dezastru pentru omenire”. Presa, care a înțeles prea bine că „frica vinde”, este plină de astfel de titluri ale unor articole ilustrate cu imagini ale unor roboți rău-voitori, înarmați până-n dinți, din filme precum seria „Terminator”. Astfel de articole ne sugerează că trebuie să ne temem de revolta roboților care vor dobândi, la un moment dat, conștiință și ar putea decide că omenirea, categorie formată din ființe cu viață și inteligență finite, le stă în cale.

Până la urmă știința nu știe exact ce este conștiința umană și chiar dacă ar afla, va mai trece cu siguranță mult timp până va reuși să o reproducă într-un computer. Un lucru este însă clar: atât din punct de vedere cantitativ cât și calitativ, o superinteligență nu implică, dar nici nu exclude trezirea conștiinței. Dacă conduci pe un drum de munte, treci printr-o experiență subiectivă ce implică culorile, sunetele, lucrurile pe lângă care treci cu mașina și care îți atrag atenția sau îți trezesc amintiri. O mașină care se conduce singură va observa toate aceste lucruri și poate și mai multe decât poate percepe un șofer uman, dar va putea ea vreodată să-și formeze o impresie de călătorie sau va putea să exprime un sentiment legat de locurile prin care a trecut?

Timpul va răspunde, fără îndoială, la toate aceste întrebări.

Sursa: agerpres.ro