Anthropic avertizează asupra riscurilor catastrofale ale AI înaintea listării la bursă

Anthropic a avertizat că inteligența artificială (AI) ar putea reprezenta „riscuri catastrofale sau existențiale pentru omenire”, în timp ce a prezentat detalii despre planificata sa listare de amploare la bursă, în Statele Unite.

Evaluarea companiei este așteptată să o depășească pe cea a SpaceX, care a avut cea mai mare listare de până acum, la o evaluare inițială de aproximativ 1,8 trilioane de dolari în această vară.

Anthropic nu a dezvăluit încă numărul de acțiuni care vor fi puse în vânzare, intervalul de preț sau data listării.

Dezvoltatorul chatbotului Claude a raportat venituri de 16,3 miliarde de dolari (12,2 miliarde de lire sterline) în prima jumătate a anului, în timp ce pierderile au depășit 80,7 miliarde de dolari.

Anthropic, care a anunțat că se va lista la Nasdaq sub simbolul ANT, va fi prima companie axată în întregime pe AI care va ajunge pe bursă. Listarea sa va deveni un test pentru viitorul acestei tehnologii.

În documentele depuse înaintea listării, Anthropic a declarat că factori de decizie, autorități de reglementare și cercetători, precum și persoane din interiorul organizației, și-au exprimat îngrijorarea că sistemele AI reprezintă un risc semnificativ pentru omenire.

Compania a spus că sistemele AI avansate „ar putea, dacă nu sunt dezvoltate, implementate și operate cu garanții, supraveghere și măsuri de securitate adecvate, să prezinte riscuri catastrofale sau existențiale pentru omenire, în special dacă astfel de sisteme sunt folosite în mod abuziv, replicate, transformate în arme sau lăsate să funcționeze cu un grad ridicat de autonomie”.

Anthropic a fost fondată în urmă cu cinci ani de directorul general Dario Amodei, de sora acestuia, Daniela Amodei, și de alte cinci persoane. Compania și-a anunțat intenția de a se lista în iunie.

Principalul său rival, OpenAI, a urmat rapid exemplul. Potrivit unei persoane familiarizate cu planurile companiei, listarea acesteia este așteptată acum la începutul anului viitor.

Anunțurile au fost urmate de un val de breșe de securitate cibernetică și alte incidente tehnologice, în care au fost implicate agenții AI — boți concepuți să funcționeze într-o anumită măsură în mod autonom.

Angajați actuali și foști ai ambelor companii au avertizat, de asemenea, că tehnologia AI este dezvoltată fără ca firmele să dispună de mijloacele necesare pentru a proteja omenirea de posibilele efecte negative viitoare ale instrumentelor bazate pe AI.

Luni, în timp ce Anthropic își prezenta planurile privind debutul bursier, deținătorii drepturilor asupra muzicii lui Elvis Presley au dat în judecată compania, acuzând-o că a folosit sute de cântece ale starului rock-and-roll pentru a-și antrena chatbotul Claude.

În noile documente, Anthropic și-a reafirmat angajamentele asumate anterior de a dezvolta AI într-un mod benefic pentru oameni, avertizând în același timp investitorii cu privire la pericolele tehnologiei.

În documentele financiare, Anthropic a prezentat pierderi care au depășit veniturile din prima jumătate a anului. Compania a precizat însă că va face adesea investiții anticipate „care, la prima vedere, pot părea iresponsabil de mari”.

„În general, vom încerca să fim îndrăzneți, dar raționali, și să câștigăm încrederea printr-un istoric de pariuri reușite”, a declarat compania din domeniul tehnologiei.

Succesul său depinde în mare măsură de capacitatea de a dezvolta cele mai avansate modele AI, a spus Anthropic, adăugând că „orice eșec în acest sens ne-ar putea afecta negativ afacerea”.

În aproximativ 90 de pagini dedicate posibilelor riscuri, Anthropic a prezentat amenințările potențiale la adresa capacității sale de a dezvolta AI în condiții de siguranță și de a rămâne competitivă.

Anthropic a avertizat că se bazează pe un grup restrâns de furnizori de servicii de cloud computing, pe producători de cipuri din Taiwan care se confruntă deja cu o cerere foarte mare și pe centre de date concentrate în Statele Unite.

Compania a atras atenția și asupra „acțiunilor de reglementare care ar putea apărea în urma prejudiciilor asociate modelelor noastre AI”. Printre preocupările menționate se numără folosirea AI de către copii sau de către persoane cu risc de sinucidere, precum și incertitudinea privind locul și modul în care compania ar putea fi trasă la răspundere pentru acțiunile sistemelor sale.

Totuși, în documente, Anthropic a evidențiat și beneficiile potențiale ale tehnologiei, despre care crede că ar putea pune la dispoziție „milioane de agenți virtuali capabili să revoluționeze toate domeniile activității umane”.

„Credem că AI este una dintre cele mai importante tehnologii din istoria omenirii”, a declarat compania.

Anthropic a mai spus că AI va „accelera în mod profund progresul în biologie și medicină” și ar putea contribui la găsirea unor tratamente pentru boli precum cancerul și Alzheimer.

Compania a adăugat că tehnologia ar putea susține și „o accelerare susținută a creșterii economice”, prin sporirea productivității.

Matt Orton, strateg-șef de piață la firma de administrare a investițiilor Raymond James Investment, a spus că investitorii se așteaptă ca finanțele Anthropic să reflecte atât o creștere rapidă, cât și pierderi mari. Prin urmare, documentele publicate luni nu ar fi o surpriză.

„Cred că obținerea detaliilor din acest document va oferi pieței mai multă vizibilitate, pentru că trebuie să știm de unde provine creșterea veniturilor”, a spus el.

Peter Andersen, fondatorul Andersen Capital Management, a spus că planurile Anthropic de a se lista reprezintă „o etapă importantă în dezvoltarea inteligenței artificiale”.

El a adăugat că rezultatul debutului bursier va fi „destul de relevant pentru a evalua încrederea investitorilor în continuarea finanțării dezvoltării AI”.