DeepGuard, platforma din R. Moldova care verifică autenticitatea videoclipurilor: „Falsul nu trebuie să fie convingător. Trebuie doar să se miște mai repede decât cei care îl verifică”

Videoclipurile generate cu inteligență artificială atrag cea mai mare atenție, însă ele reprezintă doar o parte a problemei. Potrivit dezvoltatorilor platformei „DeepGuard”, un instrument creat în R. Moldova pentru verificarea autenticității materialelor video, cele mai eficiente manipulări sunt, de fapt, imaginile reale scoase din context și redistribuite cu o explicație falsă. Într-un interviu pentru ZdG, Lucian Boaghe, cofondator și director general al DeepGuard, explică ce tipuri de falsuri detectează cel mai des platforma, cum circulă acestea pe rețelele sociale și de ce amenințarea cea mai mare pentru jurnalism nu este inteligența artificială, ci pierderea încrederii în orice imagine video.

Recontextualizarea bate generarea

Deși platforma „DeepGuard” a fost creată pentru a detecta și videoclipuri generate cu inteligență artificială, cele mai multe materiale analizate nu sunt deepfake-uri propriu-zise.

„Deepfake-ul sofisticat, generat complet de AI, e încă rar în practică. Ce vedem constant: videoclipuri autentice scoase din context, reciclate, de la alte evenimente, montate selectiv sau republicate cu o dată și un loc fals”, afirmă Lucian Boaghe.

Expertul spune că una dintre concluziile desprinse din discuțiile cu redacțiile este că succesul manipulării nu depinde neapărat de calitatea falsului.

„Falsul nu trebuie să fie convingător. Trebuie doar să se miște mai repede decât cei care îl verifică.”

Boaghe oferă și un exemplu real relatat de o redacție: un videoclip de la un eveniment petrecut cu două luni înainte a fost republicat ca fiind actual și a ajuns să fie publicat de presă sub presiunea termenelor-limită. Abia după câteva minute jurnaliștii și-au dat seama că imaginile nu erau recente.

Cel mai eficient fals este unul ieftin

Potrivit fondatorului DeepGuard, experiența de până acum arată că actorii care manipulează informația preferă să reutilizeze imagini reale decât să creeze videoclipuri false cu ajutorul inteligenței artificiale.

„Nu pot crea un top statistic încă, întrucât nu avem datele agregate ca să-l susțin cu acuratețe. Ce pot spune din practică: recontextualizarea bate generarea. Cea mai frecventă tehnică nu este crearea unui fals, ci mutarea unui adevăr în alt context, alt loc, altă dată, altă semnificație. E gratis, e rapid și funcționează.”

Un exemplu este reutilizarea unor imagini filmate în timpul pandemiei.

„Un video cu rafturi goale dintr-un magazin din timpul pandemiei (2020) este republicat acum cu textul: «Uitați unde ne-au adus deciziile economice actuale!»”

În R. Moldova, spune Boaghe, cele mai multe manipulări video sunt legate de perioadele electorale și de politicieni: „La nivel general, teme electorale și figuri politice, cu vârfuri în perioadele sensibile.”

„Cele mai periculoase manipulări nu sunt cele sofisticate”

Contrar percepției populare, cele mai dăunătoare videoclipuri nu sunt cele generate integral de inteligența artificială.

„O să te surprindă răspunsul: cele mai periculoase manipulări pe care le-am văzut nu sunt cele sofisticate. Sunt cele banale care se mișcă repede. Un clip autentic cu o dată falsă face mai mult rău decât un deepfake elaborat, pentru că trece de orice filtru intuitiv, nimic nu «pare» fals în el, pentru că nimic nu e fals în pixeli. Falsul e în context.”

Din acest motiv, explică el, platforma nu încearcă doar să stabilească dacă un videoclip este autentic, ci și să reconstruiască traseul acestuia.

„Produsul nostru nu dă doar un verdict pe video, ci reconstruiește contextul: sursa originală, data reală, ce s-a spus de fapt.”

Telegram produce, TikTok accelerează, Facebook amplifică

Chiar dacă DeepGuard nu dispune încă de statistici agregate privind distribuția pe platforme, observațiile calitative indică asupra rolurilor diferite ale rețelelor sociale în propagarea manipulărilor.

„Telegram e sursa primară de material neverificat în spațiul nostru, acolo apar lucrurile întâi. TikTok e acceleratorul, viteza de propagare e cea mai mare. Facebook rămâne dominant în Moldova ca volum de audiență, deci acolo manipularea are impactul cel mai larg.”

Economia manipulării favorizează simplitatea

Boaghe consideră că dezbaterea publică este concentrată excesiv asupra deepfake-urilor spectaculoase, în timp ce metodele simple produc în prezent cele mai multe efecte.

„Predomină clar manipulările simple. Și ăsta e chiar punctul care se pierde în discuția publică. Toată atenția merge spre deepfake-uri spectaculoase, dar actorii aleg metoda cea mai ieftină care produce efectul. Azi, aia e recontextualizarea, nu generarea. Asta se va schimba, întrucât costul generării scade dramatic, dar deocamdată economia manipulării favorizează simplul.”

„Există semnale că actorii folosesc masiv instrumente generative de ultimă generație, dar nu o fac masiv, cel puțin, nu în ce am văzut noi. Direcția însă e clară și îngrijorătoare: s-a demonstrat deja public că poți lua titluri reale de breaking news și genera în secunde clipuri care imită textura reportajului de la fața locului. Footage  news-like (imagini video, de obicei  materiale brute ori secvențe video asemănătoare cu materialele jurnalistice, n.r.) plauzibil, care ar putea ateriza în inboxul oricărei redacții. Când costul ăsta ajunge la zero, volumul explodează.”

Cel mai mare risc: oamenii să nu mai creadă nici imaginile autentice

În opinia fondatorului DeepGuard, următorii ani vor aduce două provocări majore. Prima este că viteza cu care pot fi generate falsurile va depăși viteza cu care acestea pot fi verificate.

„Când un clip fals se produce în secunde și verificarea lui ia ore, matematica e împotriva adevărului. Fereastra în care un fals circulă necontestat devine fereastra în care se formează opinia publică.”

A doua amenințare este și mai gravă: erodarea încrederii în orice material video.

„Riscul nu e doar că oamenii cred falsuri, e că nu mai cred nimic, inclusiv autenticul. Când orice video poate fi fals, «e un deepfake» devine scuza universală pentru orice imagine incomodă. Adevărul devine negociabil. Asta lovește jurnalismul mai tare decât orice deepfake individual, pentru că vă atacă chiar moneda: încrederea.”

În acest context, potrivit lui Boaghe, miza DeepGuard nu este doar identificarea falsurilor, ci documentarea adevărului.

„De asta construim ce construim: nu un detector care spune «fals», ci un instrument care documentează ce e real, cu surse, context și dovezi pe care o redacție le poate arăta.”

Acest material a fost produs cu suportul financiar al Uniunii Europene. Conținutul acestuia reprezintă responsabilitatea exclusivă a proiectului „Consolidarea rezilienței de sus în jos și de jos în sus în Republica Moldova”, cofinanțat de Uniunea Europeană. Conținutul materialului aparține autorilor și nu reflectă în mod neapărat viziunea Uniunii Europene.