Eroare Microsoft în Copilot a permis accesarea și rezumarea unor emailuri confidențiale ale utilizatorilor

Microsoft a recunoscut o eroare care a dus la faptul că asistentul său de lucru bazat pe inteligență artificială a accesat și a rezumat din greșeală unele emailuri confidențiale ale utilizatorilor.

Gigantul tehnologic promovează Microsoft 365 Copilot Chat drept o modalitate sigură prin care companiile și angajații lor pot folosi chatbotul său generativ de inteligență artificială.

Totuși, compania a anunțat că o problemă recentă a făcut ca instrumentul să afișeze, pentru anumiți utilizatori enterprise, informații din mesaje stocate în folderele Drafts și Sent Items – inclusiv emailuri marcate drept confidențiale.

Microsoft susține că a implementat deja o actualizare care corectează eroarea și afirmă că „nu a oferit nimănui acces la informații pe care nu era deja autorizat să le vadă”.

Cu toate acestea, unii experți avertizează că viteza cu care companiile se întrec în a adăuga noi funcții de inteligență artificială face ca astfel de greșeli să fie, practic, inevitabile.

Copilot Chat poate fi utilizat în aplicații Microsoft precum Outlook și Teams – folosite pentru e-mailuri și comunicare internă – pentru a obține răspunsuri la întrebări sau rezumate ale mesajelor.

„Am identificat și remediat o problemă prin care Microsoft 365 Copilot Chat putea returna conținut din emailuri etichetate confidențial, redactate de un utilizator și stocate în folderele lui Draft și Sent Items din Outlook desktop”, a declarat un purtător de cuvânt al Microsoft.

„Deși politicile noastre de control al accesului și de protecție a datelor au rămas intacte, acest comportament nu corespunde experienței Copilot pe care ne-o dorim, una concepută pentru a exclude conținutul protejat din accesul Copilot”, a adăugat acesta.

„O actualizare de configurare a fost implementată la nivel mondial pentru clienții enterprise.”

Problema a fost relatată inițial de publicația de tehnologie Bleeping Computer, care a susținut că a văzut o alertă de serviciu ce confirma eroarea.

Publicația a citat un anunț Microsoft potrivit căruia „mesajele email ale utilizatorilor, cărora li s-a aplicat o etichetă de confidențialitate, sunt procesate incorect de Microsoft 365 Copilot chat”.

Anunțul mai preciza că un tab de lucru din Copilot Chat a rezumat mesaje email stocate în folderele Drafts și Sent ale unui utilizator, chiar și atunci când aceste mesaje aveau o etichetă de sensibilitate și o politică de prevenire a pierderii datelor configurată pentru a împiedica partajarea neautorizată a informațiilor.

Relatările sugerează că Microsoft a aflat pentru prima dată despre eroare în luna ianuarie.

Anunțul referitor la bug a fost distribuit și pe un panou de suport pentru personalul NHS din Anglia, unde cauza de bază este atribuită unei „probleme de cod”.

O secțiune a notificării de pe site-ul de suport IT al NHS sugerează că sistemul a fost afectat. Totuși, în mesaj se precizează că conținutul oricăror emailuri draft sau trimise, procesate de Copilot Chat, va rămâne la creatorii lor, iar informațiile despre pacienți nu au fost expuse.

Instrumentele enterprise de inteligență artificială precum Microsoft 365 Copilot Chat – disponibile organizațiilor cu abonament Microsoft 365 – sunt, în mod normal, dotate cu controale mai stricte și măsuri sporite de securitate pentru a împiedica divulgarea informațiilor sensibile ale companiilor.

Cu toate acestea, pentru anumiți experți, incidentul scoate din nou în evidență riscurile adoptării instrumentelor generative de inteligență artificială în anumite medii de lucru.

Nader Henein, analist în protecția datelor și guvernanța AI la Gartner, a afirmat că „acest gen de gafă este inevitabil”, având în vedere frecvența cu care apar „capabilități AI noi și inedite”.

El a explicat că organizațiile care folosesc astfel de produse de inteligență artificială nu dispun, deseori, de instrumentele necesare pentru a se proteja corespunzător și pentru a gestiona fiecare funcție nouă.

„În mod normal, organizațiile ar dezactiva pur și simplu funcția și ar aștepta până când guvernanța ar recupera decalajul”, a spus Henein.

„Din păcate, nivelul de presiune provocat de torentul de hype nefundamentat în jurul AI face acest lucru aproape imposibil”, a adăugat el.

Expertul în securitate cibernetică, profesorul Alan Woodward de la University of Surrey, a subliniat importanța ca astfel de instrumente să fie, în mod implicit, private și activate doar cu acordul explicit al utilizatorului.

„Vor exista inevitabil bug-uri în aceste instrumente, mai ales deoarece evoluează cu o viteză amețitoare, așa că, chiar dacă scurgerile de date nu sunt intenționate, ele tot vor avea loc”, a declarat acesta.