O unitate de poliție din Marea Britanie renunță la tehnologia AI a companiei Palantir, după doi ani de testare

O unitate regională de poliție specializată în combaterea criminalității grave și organizate a decis să nu mai folosească software-ul companiei americane Palantir, după încheierea unei perioade de testare de doi ani.

Tehnologia firmei americane permite analizarea și căutarea rapidă în volume mari de date, inclusiv cu ajutorul inteligenței artificiale. Produsele Palantir sunt utilizate în prezent de armate și servicii publice din mai multe țări ale lumii.

East Midlands Special Operations Unit (Emsou) a anunțat că a început testarea în octombrie 2024, pentru a evalua în ce măsură software-ul Palantir ar putea sprijini anchetele privind infracțiunile, fără a compromite principiile etice și responsabilitatea instituțională.

Unitatea a decis însă să nu finanțeze un nou contract. Palantir va trebui să demonstreze că a eliminat toate legăturile cu sistemele forțelor de ordine și că a șters toate datele obținute în timpul proiectului pilot.

Compania este vizată periodic de proteste din cauza folosirii tehnologiei sale de către Israel în conflictul din Gaza și a implicării sale în aplicarea politicilor americane privind imigrația.

Experții în protecția vieții private au atras, de asemenea, atenția asupra faptului că instrumentele Palantir permit supravegherea și analiza unor informații foarte diverse. Printre acestea se numără postări de pe rețelele sociale, permise de conducere și probe ADN.

Palantir susține însă că software-ul său a contribuit la îmbunătățirea serviciilor publice în mai multe instituții din Regatul Unit, printre care Serviciul Național de Sănătate, Ministerul Apărării și 11 forțe de poliție.

Emsou investighează crime, acte de terorism și cazuri de trafic de droguri în comitatele Derbyshire, Leicestershire, Lincolnshire, Nottinghamshire și Northamptonshire. Unitatea nu a dezvăluit modul exact în care a folosit tehnologia Palantir în timpul testării.

Instituția a confirmat însă că, în cadrul proiectului pilot, datele Poliției din Leicestershire au fost introduse într-un sistem de operare numit Foundry. Platforma utilizează inteligență artificială și metode de învățare automată pentru a analiza informațiile disponibile.

Palantir a oferit mai multe exemple privind modul în care alte forțe de poliție au folosit software-ul pentru combaterea criminalității. Compania a afirmat că tehnologia sa a contribuit la aplicarea mai eficientă a Legii lui Clare, prin identificarea, într-un singur an, a 1.000 de femei din Bedfordshire ai căror parteneri aveau un istoric de violență domestică.

Un reprezentant al companiei a adăugat că software-ul a contribuit la condamnarea unei grupări criminale care a furat 700.000 de lire sterline de la bancomate. De asemenea, acesta ar fi ajutat Poliția Metropolitană să descopere cazuri grave de corupție și să identifice economii semnificative de timp în activitatea operativă.

Asistentul șefului regional al poliției, Ian Green, a declarat că testarea din East Midlands a urmărit să verifice cât de bine poate servi software-ul interesului public, „menținând în același timp cele mai înalte standarde de responsabilitate și etică”.

El a precizat că proiectul s-a desfășurat în baza unor „verificări, mecanisme de control și evaluări independente” stricte. Totuși, Emsou a decis să nu prelungească acordul după încheierea finanțării oferite de Ministerul de Interne.

„În urma activității de evaluare și a analizei rezultatelor pe care le-ar fi putut oferi proiectul, inclusiv în funcție de viitoarele noastre surse de finanțare, am decis să nu continuăm această inițiativă”, a spus Ian Green.

„Continuăm să susținem inovația și să analizăm modul în care noile tehnologii ne pot sprijini activitatea de poliție. Vom căuta în continuare noi metode pentru combaterea criminalității grave și organizate în regiunea noastră și în afara acesteia”, a adăugat el.

Emsou a refuzat să dezvăluie ce baze de date și ce surse au fost folosite în timpul testării, invocând motive de securitate operațională. Unitatea nu a făcut public nici costul proiectului, menționând caracterul confidențial al informațiilor comerciale.

Ministerul de Interne nu a dorit să adauge alte informații la declarația Emsou.

Criticii Palantir și-au exprimat, de asemenea, îngrijorarea față de tehnologia companiei pentru „ducerea războiului”, bazată pe inteligență artificială. Statele Unite ar fi folosit platforma de apărare Maven Smart System pentru planificarea unor lovituri în Iran în ultimele luni.

În acest context, compania s-a confruntat cu întrebări privind posibilitatea ca sistemul Maven să recomande ținte greșite, inclusiv civili. Au existat, de asemenea, temeri că militarii care iau decizii sub presiunea timpului nu ar putea verifica suficient de atent aceste recomandări.

Palantir a susținut că rolul său se limitează la furnizarea software-ului. „Modul în care este utilizat software-ul se află în totalitate sub controlul clientului, iar datele pot fi prelucrate numai în conformitate cu instrucțiunile stricte ale acestuia”, a declarat un reprezentant al companiei.

Compania a mai afirmat că spitalele și organizațiile medicale care utilizează produsele sale au efectuat mii de operații suplimentare, au redus timpul necesar externării pacienților și au accelerat diagnosticarea.

Printre instituțiile menționate se numără University Hospitals of Leicester și Sherwood Forest Hospitals Trusts. Totuși, Amnesty International UK desfășoară o campanie împotriva unui contract important încheiat între NHS England și Palantir, din cauza preocupărilor legate de impactul companiei asupra drepturilor omului.

Oliver Feeley-Sprague, directorul organizației pentru politică militară și de securitate, a salutat decizia Emsou de a opri utilizarea platformei Palantir Foundry.

„Oamenii doresc servicii de poliție care să răspundă nevoilor comunităților, nu contractori controversați”, a spus el.

„Palantir a devenit o responsabilitate tot mai mare pentru orice instituție publică ce pune preț pe drepturile omului și pe încrederea publicului”, a adăugat reprezentantul Amnesty International UK.

Decizia Emsou încheie astfel proiectul pilot prin care autoritățile au încercat să stabilească dacă platforma Foundry poate fi folosită în anchete complexe, oferind în același timp garanții suficiente privind protecția datelor, controlul instituțional și respectarea normelor etice.