Mihai Rotariu (DNSC): „Tehnologia deepfake este și un instrument de manipulare a informației, de răspândire a știrilor false“

De la escrocherii financiare și campanii de dezinformare, până la riscurile asupra securității cibernetice și încrederii publicului în sursele de informare, deepfake-ul rămâne o problemă acută a societății românești.

Mihai Rotariu este manager al Direcției Comunicare, Media și Marketing din cadrul DNSC

„Weekend Adevărul“ a discutat cu Mihai Rotariu,
manager al Direcției Comunicare, Media și Marketing din cadrul Directoratului
Național de Securitate Cibernetică (DNSC), despre modul în care tehnologia
deepfake este folosită în România, atât ca instrument de fraudă, cât și ca
mijloc de manipulare a informației, dar și despre impactul acestor tehnici
avansate asupra încrederii oamenilor în informații și surse de informații.
Totodată, am discutat cu expertul și despre ce măsuri pot lua utilizatorii
diverselor platforme online pentru a se proteja de astfel de amenințări.

„Weekend Adevărul“: Cum sunt utilizate deepfake-urile
în România pentru a răspândi dezinformarea și care sunt principalele riscuri pe
care le implică acestea?

Mihai Rotariu: În general, majoritatea cazurilor pe care le-am
identificat sau care ne-au fost raportate sunt asociate unor atacuri
informatice, dar includ și o componentă puternică de fake news. Un exemplu
relevant este reprezentat de așa-numitele „programe naționale de îmbogățire“.
Este evident că avem de-a face cu dezinformare atunci când vedem videoclipuri
în care personalități publice – în special politicieni, poate chiar premierul
sau președintele – par să susțină astfel de scheme financiare frauduloase.
Aceste clipuri au început să circule intens pe rețelele sociale începând cu
august 2023, într-o tentativă de fraudă de amploare. La acea vreme, observam un
volum ridicat de reclame care promovau aceste mesaje false, iar pericolul, pe
care l-am subliniat încă de atunci, era că această tehnică ar putea migra și
spre manipularea procesului electoral. Nu am întâlnit un număr foarte mare de
astfel de deepfake-uri comparativ cu tentativele de fraudă financiară din
mediul online, dar există cazuri clare de manipulare a audienței prin conținut
falsificat.

În ce sens?

De
exemplu, au apărut videoclipuri deepfake cu personaje istorice care nu mai sunt
în viață, cum ar fi un clip în care Nicolae Iorga părea să susțină un anumit
candidat la alegerile prezidențiale din România. Evident, un astfel de material
era realizat cu ajutorul inteligenței artificiale și reprezenta o încercare
clară de dezinformare. Prin urmare, tehnologia deepfake nu este folosită doar
în fraude financiare, ci și ca instrument de manipulare a informației, de
răspândire a știrilor false și de distorsionare a realității prin dezinformare
și informare eronată.

Un pericol real

Pare că această tehnologie subminează tot mai mult
încrederea publicului, deoarece devine din ce în ce mai dificil să distingem
între ceea ce este fals și ceea ce este 100% real. Ce efecte are tehnologia
deepfake asupra încrederii noastre în informații și în sursele de informare?

Nu
putem oferi concluzii absolute momentan. Putem doar să speculăm, deoarece nu
știm exact până unde va ajunge această tehnologie. Totuși, dacă analizăm
trendul din ultimii ani, există un pericol real ca încrederea publicului în
informațiile transmise prin video, audio sau imagini să fie grav afectată. În
momentul în care cineva cade de mai multe ori în capcana deepfake-urilor,
nivelul încrederii scade considerabil. Prin urmare, impactul acestei tehnologii
depinde în mare măsură de modul în care societatea, instituțiile și chiar
tehnologia însăși răspund la această provocare. Aici intervine și necesitatea
unei reglementări clare a acestor tipuri de conținut, precum și stabilirea unor
reguli stricte privind utilizarea lor.

Dar cum poate un utilizator obișnuit să identifice un
deepfake, mai ales atunci când vorbim despre variante mai avansate, care nu
prezintă indicii evidente ale manipulării?

Din
păcate, nu există metode simple și infailibile pentru detectarea
deepfake-urilor. Spre exemplu, în domeniul securității cibernetice, există
platforme precum virustotal.com, care acționează ca un agregator de soluții
antivirus gratuite, sau scamadviser.com, unde utilizatorii pot introduce un
link al unui magazin online pentru a primi un rating de siguranță. Însă, în
cazul deepfake-urilor, nu avem încă un sistem similar, care să ofere un scor de
la 0 la 100 privind autenticitatea unui conținut media. Deși există inițiative
pentru dezvoltarea unor astfel de soluții, ele sunt încă într-un stadiu
incipient. Chiar și colegii mei au testat diverse metode pentru a crea un ghid de identificare a deepfake-urilor, însă rata de succes a unui instrument
similar cu cele menționate rămâne scăzută. Multe dintre aceste soluții
generează fie rezultate fals-pozitive, fie nu reușesc să detecteze manipulările
mai sofisticate.

„Să ne ajutăm unii pe alții“

Totuși, dacă un utilizator observă o astfel de reclamă
deepfake frauduloasă, ce ar trebui să facă în continuare?

Primul
pas ar fi să documenteze existența acelui conținut, dacă este posibil. Aceste
reclame realizate cu ajutorul tehnologiei deepfake sunt adesea doar o momeală
menită să redirecționeze potențialele victime către un site de phishing.
Pe aceste site-uri, atacatorii încearcă să colecteze date sensibile, precum
informații personale, date de autentificare sau detalii financiare, convingând
victimele să „investească“ în oportunități false, care, de obicei, implică
furnizarea unor date bancare. Dacă identificăm un astfel de conținut, este
esențial să îl raportăm imediat către rețeaua socială sau platforma unde a fost
publicat, astfel încât administratorii să îl poată elimina cât mai rapid. Pe de
altă parte, dacă videoclipul promovează o tentativă de fraudă și cineva cade în
capcană, oferind date financiare sau suferind pierderi bănești, este crucial să
acționeze rapid. Primul pas este notificarea imediată a băncii pentru a încerca
blocarea instrumentului financiar folosit și, dacă este posibil, anularea tranzacțiilor
frauduloase în cooperare cu instituția bancară. Totodată, dacă am suferit o
pagubă materială, este esențial să depunem o plângere la poliție pentru a
deschide o investigație. În plus, este important să raportăm incidentul și
către Directoratul Național de Securitate Cibernetică, astfel încât
specialiștii să poată analiza cazul și, dacă este necesar, să disemineze
informația pentru a avertiza și alte potențiale victime. Acest demers poate
contribui la limitarea impactului unui astfel de atac. Efectele unui deepfake
depind foarte mult de conținutul și de mesajul transmise, însă un prim pas
esențial rămâne raportarea către platforma unde a fost publicat. Prin
dezactivarea rapidă a acelui conținut cu ajutorul rețelei sociale, se pot
reduce semnificativ riscurile și numărul victimelor expuse.

Cu alte cuvinte, și noi, utilizatorii, avem un rol
important de jucat – trebuie să ne implicăm activ în semnalizarea acestor
cazuri.

Este
esențial să ne ajutăm unii pe alții, mai ales în domeniul tehnologiei. În
România, educația digitală și securitatea cibernetică nu sunt încă la un nivel
ridicat. În clasamentele internaționale privind economia digitală și indicele
de securitate cibernetică, țara noastră se află adesea pe ultimele locuri. Până
când cursurile de securitate cibernetică vor fi integrate în sistemul de
învățământ și vor ajunge, ideal, chiar la copiii de vârstă fragedă – care deja
utilizează dispozitive inteligente –, este important să ne sprijinim reciproc.
Cei care au mai multă expertiză în acest domeniu pot contribui la
conștientizarea riscurilor și la educarea celor din jur, fie că vorbim despre
familie, prieteni sau comunități. Atunci când aflăm despre o anumită amenințare
sau un tip de atac și știm cum ne putem proteja, este important să împărtășim
aceste informații și cu ceilalți – fie că sunt membri ai familiei sau ai
comunității noastre. Dacă cineva ne cere ajutorul, trebuie să oferim
informațiile esențiale pentru a-l ajuta să se protejeze în mediul online. În
plus, este crucial să vorbim deschis și cât mai frecvent despre aceste
pericole, astfel încât tot mai mulți oameni să fie conștienți de riscuri și să
știe cum să reacționeze.