Curtea Supremă a Indiei declanșează consecințe legale după ce o judecătoare a folosit hotărâri false generate de inteligență artificială în soluționarea unui litigiu imobiliar

Curtea Supremă a Indiei a avertizat că vor urma consecințe legale după ce s-a descoperit că o judecătoare a soluționat un litigiu imobiliar folosind hotărâri false generate de inteligență artificială.

Instanța supremă, care răspunde unei contestații depuse de pârâți, va analiza acum hotărârea pronunțată de instanța inferioară din statul Andhra Pradesh, în sudul țării.

Curtea Supremă a calificat cauza drept o problemă de „îngrijorare instituțională” și a subliniat că hotărârile false generate de AI au „un impact direct asupra integrității procesului de judecată”.

Incidentul a ajuns pe primele pagini ale presei, devenind cel mai recent exemplu dintr-un șir de situații în care inteligența artificială a perturbat procedurile judiciare în India și în alte părți ale lumii.

Problemele în dosarul din Andhra Pradesh au apărut în august anul trecut, când o judecătoare civilă debutantă de la instanța de fond din orașul Vijayawada a emis o ordonanță într-o cauză privind un bun imobiliar aflat în dispută.

Anterior, tribunalul desemnase un funcționar să măsoare proprietatea și să depună un raport, măsură la care pârâții s-au opus. Judecătoarea a respins obiecțiile lor, invocând patru hotărâri judecătorești anterioare – care s-au dovedit ulterior a fi generate de un sistem de inteligență artificială.

Programele de inteligență artificială au simplificat considerabil multe activități la locul de muncă. Totuși, sistemele generative de AI sunt cunoscute pentru tendința lor de a „halucina” și de a prezenta neadevăruri ca fapte, uneori inventând chiar și surse pentru informațiile inexacte.

Pârâții au contestat ordonanța la Înalta Curte a statului, arătând că hotărârile invocate erau false. Instanța superioară a recunoscut acest fapt, însă a acceptat că judecătoarea civilă debutantă a comis eroarea „cu bună-credință” și, în final, a menținut soluția instanței de fond.

În hotărârea sa, Înalta Curte a arătat că „este posibil ca trimiterile jurisprudențiale să nu existe, dar dacă instanța de fond a avut în vedere principiile corecte de drept, iar aplicarea lor la faptele cauzei este de asemenea corectă, simpla menționare a unor hotărâri/trimiteri inexistente sau incorecte nu poate constitui motiv pentru anularea ordonanței”.

Înalta Curte a solicitat, de asemenea, un raport de la judecătoarea care folosise hotărârile generate de AI. Aceasta a declarat că era pentru prima dată când utiliza un instrument de inteligență artificială și că a considerat că trimiterile erau „autentice”. Ea a mai spus că nu a avut nicio intenție să citeze greșit sau să denatureze hotărârile și că „eroarea s-a produs exclusiv din cauza încrederii într-o sursă automată”, se arată în decizia Înaltei Curți.

Instanța superioară a pledat, în plus, pentru „exercitarea inteligenței reale, umane, în locul inteligenței artificiale”.

Ulterior, pârâții au formulat o nouă cale de atac și au dus cauza în fața Curții Supreme, care s-a arătat mult mai critică față de impactul AI.

Condamnând ferm utilizarea hotărârilor false, instanța supremă a suspendat vineri ordonanța instanței inferioare privind disputa imobiliară. Curtea a precizat că recursul la inteligență artificială în pronunțarea hotărârilor nu reprezintă doar „o eroare în procesul decizional”, ci un act de „abateri disciplinare”.

„Această cauză capătă o semnificație instituțională considerabilă, nu din cauza soluției pronunțate pe fond, ci din perspectiva procesului de judecare și de luare a deciziei”, a subliniat Curtea Supremă.

Instanța a anunțat că va examina dosarul în detaliu și a emis citații către Procurorul General al țării și către Avocatul General, precum și către Baroul Indiei.

Într-o altă cauză, luna trecută, Curtea Supremă și-a exprimat îngrijorarea față de tendința avocaților de a folosi instrumente de AI pentru redactarea cererilor. „Este absolut nejustificat”, a fost citată instanța spunând.

India nu este singură în efortul de a înțelege și controla efectele inteligenței artificiale în sălile de judecată.

În octombrie, doi judecători federali din SUA au fost criticați pentru utilizarea unor instrumente de AI care au dus la erori în hotărârile lor. Iar în iunie 2025, Înalta Curte din Anglia și Tara Galilor a avertizat avocații să nu mai folosească materiale jurisprudențiale generate de AI, după mai multe cazuri în care au fost invocate hotărâri fictive sau parțial inventate.

Instituțiile juridice din India se confruntă, alături de altele din întreaga lume, cu problema reglementării și monitorizării utilizării inteligenței artificiale în cadrul proceselor.

Anul trecut, Curtea Supremă a publicat o analiză amplă (white paper) privind utilizarea AI în sistemul judiciar indian, în care a enumerat bune practici și a formulat recomandări pentru folosirea tehnologiei de către instanțe, avocați și grefieri.

Curtea a subliniat necesitatea supravegherii umane și importanța menținerii unor garanții instituționale „ferm în vigoare”.