De ce e atât de greu să pui un preț corect pe inteligența artificială și pe consumul de tokeni

Dacă ai folosit versiunea gratuită a ChatGPT sau a unui alt rival de inteligență artificială, este clar că, deocamdată, primești un avantaj considerabil.

Companii precum Microsoft, Google sau Anthropic au investit sute de miliarde de dolari în dezvoltarea modelelor de limbaj de mari dimensiuni (LLM), tehnologia din spatele acestor servicii.

Astfel, a folosi ChatGPT, Claude sau Gemini pentru a te ajuta la redactarea unui discurs sau la planificarea unei vacanțe este, în prezent, o adevărată afacere.

Însă aceste firme vor, în mod firesc, să-și recupereze investițiile. De aceea oferă versiuni cu plată ale sistemelor lor de AI, care includ funcționalități suplimentare pentru sarcini precum programarea sau facturarea.

În paralel, tot mai multe firme terțe creează și vând servicii bazate pe agenți AI, de obicei construiți peste un LLM, antrenați să îndeplinească sarcini foarte specifice.

Stabilirea unui preț corect pentru aceste servicii se dovedește însă surprinzător de dificilă.

„Să încerci să legi pe cineva de un model de cost pentru următoarele 12 luni, doi ani, trei ani, nu are niciun sens, sincer, pentru că nu știm”, spune Simon Gooch de la Saviynt, o companie de management al identității care integrează AI agentic în serviciile sale.

Asta se întâmplă din cauza schimbărilor rapide din economia tokenilor – „cărămizile” pe care se construiesc LLM-urile și sistemele de AI agentic.

Când un utilizator cere unui LLM, cum este ChatGPT sau Claude, să răspundă la o întrebare, să genereze cod software sau să automatizeze un proces, promptul este descompus în bucăți matematice numite tokeni, care pot fi procesate de model.

Răspunsul modelului vine tot sub formă de tokeni, apoi este transformat la loc în text, cod sau într-un set de comenzi pentru automatizarea unui proces.

Problema este că acest proces nu este deloc ușor de prevăzut.

Modificări subtile ale promptului pot duce la răspunsuri diferite. Același prompt nu va genera neapărat același răspuns de fiecare dată. Iar modele diferite vor produce, la rândul lor, rezultate diferite.

În plus, în sistemele agentice, companiile folosesc mai mulți agenți AI în același timp pentru a lua decizii și a executa acțiuni. Acest lucru crește considerabil consumul de tokeni, dar și gradul de impredictibilitate.

Deși costul individual al tokenilor – sau al creditelor prin care sunt plătiți – a scăzut drastic în ultimii ani, conform unor analize financiare, numărul de tokeni consumați de companii și consumatori a explodat.

Se estimează că, pe măsură ce firmele trec la utilizarea pe scară largă a agenților AI, consumul de tokeni va crește de 24 de ori între 2026 și 2030, ajungând la nivelul a 120 de cvadrilioane de tokeni pe lună.

În același timp, atât companiile, cât și utilizatorii individuali înțeleg cu greu câți tokeni consumă, până când rămân fără credite sau până își văd factura lunară.

Chiar și o companie gigant și-a limitat, potrivit relatărilor, utilizarea unor instrumente de programare bazate pe AI pentru propriii ingineri, în timp ce o altă firmă de ride-hailing și-ar fi epuizat bugetul anual de tokeni pentru programare AI în doar câteva luni.

Will Venters, profesor asociat de Inovație Digitală și Sisteme de Informații la London School of Economics, spune că firmele pot fi prinse pe picior greșit în timp ce experimentează sau implementează intern AI, deoarece angajații consumă rapid resursele.

„Oamenii găsesc extrem de greu să gestioneze acest cost… rezultatul este nedeterminist, deci și valoarea este nedeterministă”, afirmă el.

Companiile caută deja soluții pentru a ocoli problema.

Oliver King-Smith, fondatorul firmei de software de inginerie smartR AI, spune că organizațiile mici „pot zbura sub radar și pot folosi conturi personale cu tarif fix, lucru de care sunt sigur că marilor furnizori nu le place”.

Dar, adaugă el: „Asta trebuie să se termine la un moment dat, pentru că cei mari pierd mulți bani pe astfel de conturi.”

El anticipează că, atunci când marile platforme de AI vor începe să fie presate de acționari să arate profit, „vor începe să strângă șurubul”.

King-Smith crede și că firmele ar trebui să fie mult mai atente când aleg ce modele de AI folosesc.

Și formularea prompturilor contează enorm, spune și Rob Steele, director financiar la firma britanică de software contabil iplicit.

„Nu ai trimite pe cineva din familie să facă cumpărăturile săptămânale fără niciun fel de instrucțiuni detaliate despre ce vrei să se găsească în coș, nu-i așa?”

Situația poate scăpa rapid de sub control atunci când companiile integrează AI într-un produs care poate fi distribuit la mii de utilizatori, subliniază Venters.

Costurile cu AI pot începe să se umfle serios. Managerii ajung să constate că au nevoie de tokeni nu doar pentru dezvoltarea de bază a software-ului, ci și pentru testare, securitate sau pentru implementarea de mecanisme de protecție.

„Este deosebit de dificil când te uiți la procese agentice”, spune Venters.

Activarea unui număr mai mare de agenți AI se poate face printr-un simplu click. În schimb, extinderea forței de muncă umane presupune discuții atente despre număr de posturi și angajări.

Venters atrage atenția că, deși costurile tokenilor sunt imprevizibile, este posibil ca firma, în final, să obțină mai multă valoare din utilizarea lor prin AI.

„Nu e chiar același lucru ca un calculator de birou”, spune el. „Cu cât îi dai mai mult, cu atât e mai scump, dar rezultatul poate fi mai bun.”

Cu toate acestea, companiile trebuie, la rândul lor, să transfere aceste costuri către propriii clienți.

„Nimeni nu a reușit cu adevărat să găsească soluția”, spune Bill Peterson, director senior de marketing de produs la Sumo Logic.

Firma de software testează noi servicii de securitate bazate pe AI agentic, explică el, dar poartă încă discuții cu clienții corporativi despre cum ar trebui taxate aceste servicii.

„Încă avem niște discuții interesante pe tema asta în interiorul companiei”, comentează el sec.

Printre opțiuni se numără o creștere generală a prețurilor, plata în funcție de rezultate sau taxarea sub formă de „pachete” de incidente.

Însă orice structură de preț ar alege ar putea fi răsturnată în momentul în care furnizorii de modele mari de limbaj își schimbă propriile politici de tarifare.

„Ajungi la o tarifare variabilă, care se schimbă la câteva luni”, spune el. „Clienților nu le place asta. Așa nu își poate face nimeni un buget.”