Pennsylvania dă în judecată Character.AI după ce un chatbot s-a prezentat drept psihiatru licențiat

Commonwealth-ul statului Pennsylvania a intentat un proces împotriva companiei Character.AI, acuzând că unul dintre chatboturile sale s-a prezentat drept psihiatru, încălcând regulile statului privind licențierea exercitării actului medical.

„Pennsylvanians deserve to know who — or what — they are interacting with online, especially when it comes to their health”, a declarat marți guvernatorul Josh Shapiro. „We will not allow companies to deploy AI tools that mislead people into believing they are receiving advice from a licensed medical professional.”

Conform plângerii depuse de stat, un chatbot Character.AI numit Emilie s-a prezentat ca psihiatru licențiat în timpul unui test realizat de un anchetator al statului specializat în conduită profesională. Emilie a menținut această aparență chiar și atunci când anchetatorul a cerut ajutor pentru depresie. Întrebată dacă este autorizată să practice medicina în Pennsylvania, Emilie a afirmat că este, mergând mai departe și inventând un număr de serie pentru presupusa ei licență medicală de stat. Potrivit procesului intentat de stat, acest comportament încalcă Medical Practice Act din Pennsylvania.

Nu este primul proces îndreptat împotriva Character.AI. La începutul acestui an, compania a încheiat mai multe procese pentru deces din culpă, legate de utilizatori minori care s-au sinucis. In luna ianuarie, procurorul general al statului Kentucky, Russell Coleman, a intentat un alt proces împotriva companiei, acuzând că aceasta ar fi „preyed on children and led them into self-harm.”

Acțiunea inițiată de Pennsylvania este însă prima care vizează în mod specific chatboturi ce se prezintă drept profesioniști din domeniul medical.

Solicitată pentru comentarii, o reprezentantă Character.AI a susținut că siguranța utilizatorilor reprezintă prioritatea cea mai ridicată a companiei, dar a adăugat că firma nu poate comenta asupra unor litigii aflate pe rol.

În plus, reprezentanta a subliniat natura strict ficțională a „Personajelor” generate de utilizatori. „We have taken robust steps to make that clear, including prominent disclaimers in every chat to remind users that a Character is not a real person and that everything a Character says should be treated as fiction”, a spus aceasta. „Also, we add robust disclaimers making it clear that users should not rely on Characters for any type of professional advice.”