Un veteran a fost înșelat de un fals fost militar generat cu ajutorul inteligenței artificiale

Experții avertizează asupra unui val tot mai mare de „escrocherii ale milei”, în care sunt folosite videoclipuri generate cu ajutorul inteligenței artificiale. În aceste materiale apar foști militari răniți, aparent aflați în situații dificile, care încearcă să vândă produse pe internet.

Raymond Gilbert, în vârstă de 63 de ani, veteran al armatei și locuitor din Bradenstoke, Wiltshire, a povestit că a fost înșelat de un cont de pe TikTok care pretindea că aparține unui fost militar.

El a cheltuit 154,99 lire sterline pentru a cumpăra un steag din lemn prezentat drept „lucrat manual”. Gilbert susține că produsul s-a dovedit a fi fabricat în China. Au fost identificate 45 de conturi similare pe TikTok, precum și alte conturi de pe diferite platforme, care vindeau obiecte cu tematică militară.

Gilbert a lucrat ca manager de calitate pentru armata britanică în Afganistan, la bazele Camp Bastion și Kandahar.

„Derulam videoclipuri pe TikTok și a apărut acest bărbat care se rănise și care lucra într-un garaj, confecționând steaguri pentru a-și suplimenta veniturile”, a spus el.

„Mi s-a părut emoționant, soția lui îl sprijinea, iar produsul final arăta bine.”

Gilbert a declarat că a accesat un site extern pentru a face comanda.

„Am verificat site-ul, iar totul părea foarte bine; existau vânzări anterioare și totul părea în regulă”, a povestit el.

Când coletul a ajuns, Gilbert a observat că pe plic erau înscrisuri în limba chineză. Steagul nu era confecționat manual, ci reprezenta o imagine imprimată pe o bucată de placaj lipit.

„Este o modalitate josnică și insidioasă de a încerca să înșeli pe cineva; este un lucru lipsit de orice moralitate”, a spus veteranul.

„Oamenii trebuie să fie conștienți că inteligența artificială devine tot mai bună, iar oamenii devin tot mai răi.”

Videoclipuri asemănătoare au fost observate pe Facebook, Instagram și YouTube. În acestea, comercianții ofereau genți, tocătoare și decorațiuni pentru uși.

Multe dintre materiale ridică suspiciuni deoarece rănile veteranilor se schimbă de la un videoclip la altul. De asemenea, poveștile sunt copiate între conturi diferite, iar producția filmărilor pare uneori realizată în mod profesionist.

Întrebat despre acuzațiile potrivit cărora imaginile și poveștile ar fi false, unul dintre conturi, @ogudujona, a răspuns: „Acestea sunt făcute la Londra, domnule”. Reprezentanții contului au refuzat însă să ofere detalii despre regimentul în care ar fi servit sau despre perioada petrecută în armată.

Expertul în tehnologie Will Guyatt a spus că a observat o creștere a videoclipurilor pe care le numește „escrocherii ale milei”.

„Realitatea este că aceste videoclipuri sunt realizate în câteva minute”, a explicat el.

„Poți chiar să le spui chatboturilor, atunci când le creezi, să facă materialul mai emoționant în mod deliberat.”

„Este foarte greu să faci diferența. În trecut, aceste personaje puteau avea șase degete la o mână, însă acum imaginile arată aproape identic cu realitatea.”

Guyatt a adăugat că, după publicarea videoclipurilor generate de inteligența artificială, zeci de conturi automate inundă secțiunile de comentarii. Acestea încearcă să convingă utilizatorii să cumpere produsele promovate.

Specialistul a oferit și câteva recomandări pentru ca oamenii să nu cadă victime unor astfel de escrocherii. El îi îndeamnă pe cumpărători să verifice cu atenție site-ul, istoricul vânzătorului, recenziile și originea produsului înainte de a efectua plata. De asemenea, utilizatorii ar trebui să fie precauți atunci când o poveste pare exagerat de emoționantă sau când sunt presați să cumpere rapid.

Daniel Fletcher, asociat principal la Forbes Solicitors, a declarat: „Consumatorii au dreptul la rambursarea banilor, însă natura teritorială a acestor reclame face dificilă exercitarea efectivă a acestor drepturi.”

„Ne bazăm pe platformele de comerț electronic pentru a elimina în mod activ aceste reclame, însă, după ce un anunț este șters, comerciantul va crea o platformă nouă și îl va publica din nou.”

„Autoritatea pentru Standarde în Publicitate încearcă să informeze cât mai bine consumatorii, dar este destul de dificil să supravegheze acest fenomen.”

„În multe privințe, ducem o luptă pe care o pierdem treptat.”

Simon Gray, fost militar și rezident al centrului Alabaré din Bristol, a spus că videoclipurile l-au „dezgustat”.

„Un prieten apropiat de-al meu a fost rănit de un dispozitiv exploziv improvizat în Afganistan... M-am emoționat când am urmărit aceste materiale; par atât de credibile”, a spus el.

„Este ceva bolnav; acest lucru le va face rău veteranilor pe termen lung.”

„Ne bazăm pe bunătatea oamenilor și pe donații pentru a nu ajunge să dormim pe străzi.”

„Este pur și simplu îngrozitor”, a adăugat Gray.

Un alt rezident, Leo Dromgoole, a spus că videoclipurile l-au făcut să se simtă „furios”.

„Există infractori, iar apoi există infractori. Oamenii care realizează astfel de videoclipuri sunt chiar mai jos decât atât”, a adăugat el.

Organizațiile caritabile care sprijină veteranii au avertizat că materialele înșelătoare, în care apar militari falși și povești inventate despre greutăți, le-ar putea îngreuna activitatea. Aceste organizații se tem că oamenii vor deveni mai neîncrezători și vor ezita să doneze sau să ofere ajutor.

Spencer Bull, reprezentant al organizației Help for Heroes, a declarat: „Este o adevărată rușine că am ajuns într-o asemenea situație; se distruge încrederea dintre veterani și organizațiile caritabile care există pentru a-i sprijini.”

„Este afectată reputația organizațiilor care ajută foștii militari și care fac multe pentru a-i susține. Totuși, atunci când urmărești videoclipurile generate de inteligența artificială, ai impresia că nu există sprijin pentru veterani, deși în realitate există destul de mult ajutor.”

Faye Tryhorne, de la Alabaré, a afirmat: „Ca regulă generală, veteranii sunt apreciați, iar sprijinirea lor este o cauză comună pentru mulți oameni.”

„Dacă oamenii sunt înșelați atunci când cumpără aceste produse, există riscul ca veteranii care chiar au nevoie de ajutor să fie lăsați în urmă.”

TikTok a anunțat că a eliminat toate cele 45 de conturi identificate și a transmis: „Aplicăm reguli stricte împotriva conținutului generat de inteligența artificială care induce în eroare în mod grav și împotriva escrocheriilor. Am eliminat conținutul și conturile care ne-au fost semnalate și care încălcau regulile.”

„Continuăm să ne consolidăm strategiile de siguranță și, în același timp, să oferim comunității resurse despre modul în care poate identifica materialele generate de inteligența artificială și cum poate recunoaște și raporta posibilele escrocherii.”

Un purtător de cuvânt al companiei Meta, care deține Facebook și Instagram, a declarat: „Nu permitem conținutul care folosește practici înșelătoare sau care induce în eroare și am eliminat conturile și materialele care ne încălcau politicile.”

„Standardele comunității noastre se aplică tuturor materialelor publicate pe platformele noastre, indiferent dacă acestea includ sau nu conținut generat de inteligența artificială.”

YouTube a fost contactat pentru a oferi un punct de vedere în legătură cu aceste acuzații.