Ce este tehnologia deep fake și cum ne putem proteja de capcanele din online care se folosesc de aceasta
Echipa ScamAdviser a lansat recent un articol-avertizare despre pericolul deepfake. Site-ul ScamAdviser.com, un instrument util pentru verificarea securității site-urilor gratis online, care îi ajută pe consumatori să se decidă înainte de a cumpăra online, prin acordarea site-urilor un punctaj de încredere.
Tehnologia deepfake este din ce în ce mai întâlnită de specialiștii Directoratului în promovarea tentativelor de fraudă online, în special cele care se propagă prin intermediul postărilor sponsorizate pe social media (Meta, Google etc). Aici puteți accesa câteva astfel de exemple, documentate de DNSC:
Pe data de 7 decembrie 2023, DNSC, alăturid e ING și ProVision au organizat un eveniment informal cu presa din România, în care s-au discutat cele mai recente scenarii din zona de tenatativă de fraudă online, printre care și unele care folosesc tehnologia deepfake.
Escrocii sunt adesea printre primii care adoptă noile tehnologii, pentru a putea rămâne în frunte. O astfel de tehnologie emergentă este Inteligența Artificială (AI ), care acaparează lumea cu asalt.
Una dintre aplicațiile AI este crearea de "deepfakes" și, deoarece toate tipurile de media, de la voci la videoclipuri , pot fi "deepfaked", această tehnologie are potențialul de a provoca daune și pierderi masive atunci când este folosită în mod abuziv. Citiți mai departe pentru a afla ce este tehnologia deepfake și cum să evitați înșelătoriile deepfake.
Ce sunt deepfakes?
Manipularea imaginilor cu ajutorul unor instrumente precum Photoshop a fost mult timp un cuțit important în sertarele escrocilor. Editarea imaginilor este folosită în mod obișnuit de escroci pentru a crea identități false, documente false, aprobări false ale unor celebrități și multe altele. Tehnologia Deepfake le permite escrocilor să ducă falsificarea la nivelul următor prin crearea de videoclipuri cu persoane care spun și fac lucruri pe care nu le-au spus sau făcut niciodată. Deepfakes pot fi create folosind imagini, videoclipuri și audio.
Deepfakes se numesc astfel deoarece au fost posibile datorită unei ramuri a "învățării profunde" numită Generative Adversarial Networks (GAN). GAN-urile se bazează pe tehnologia "rețelelor neuronale", dar, în timp ce rețelele neuronale pot fi folosite doar pentru a percepe cantități mari de date, GAN-urile au oferit rețelelor neuronale capacitatea de a crea conținut nou.
Deepfakes s-au propagat datorită spiritului open-source al comunității de învățare automată. Progresele în cercetarea în domeniul modelării generative sunt, în general, puse la dispoziție gratuit pentru ca oricine din lume să le poată descărca și utiliza. Ca urmare, numărul de deepfakes a explodat de-a lungul anilor, iar guvernele se străduiesc să formuleze reglementări, temându-se că falsurile extrem de credibile pot avea un impact negativ asupra societății.
Escrocherii deepfake
Orice tehnologie care are potențialul de a schimba lumea poate fi folosită pentru bine sau pentru rău. Deepfakes au o multitudine de aplicații pozitive, cum ar fi aducerea "înapoi la viață" a celor decedați, o mai bună schimbare a fețelor în industria cinematografică, educație interactivă, marketing imersiv și multe altele. Din păcate, există și o latură întunecată care include o serie de escrocherii deepfake diferite:
- Imitația: Deepfakes fac ca imitarea altor persoane să fie mai ușoară ca niciodată. În 2019, un deepfake de voce a fost folosit pentru a înșela un CEO cu 243.000 de dolari. Directorul general al unei firme de energie cu sediul în Marea Britanie a crezut că vorbea la telefon cu directorul general al companiei-mamă germane a firmei atunci când a urmat ordinele de a transfera imediat 220.000 de euro în contul bancar al unui furnizor maghiar. De fapt, vocea aparținea unui escroc care folosea tehnologia vocală AI pentru a-l imita pe directorul executiv german.
Într-un alt caz, un utilizator necunoscut a creat un cont TikTok fals pentru actorul Robert Pattinson, care nu are niciun cont pe rețelele de socializare. Contul a câștigat peste 660.000 de urmăritori și milioane de like-uri înainte de a dispărea în mod misterios. - Catfishing: Escrocheriile de tip catfishing implică escroci care adoptă identități false folosind imagini ale unor persoane sau celebrități aleatorii. Una dintre modalitățile mai ușoare de a prinde un catfish era să îi ceri să apară pe video, deoarece acest lucru nu era ceva ce putea fi falsificat. Acest lucru s-a schimbat odată cu existența deepfakes, deoarece escrocii catfish pot crea acum videoclipuri convingătoare ale persoanei pe care o imită, conținând mesaje personalizate.
- Susținerile false: După cum am dezvăluit în raportul ScamAdviser privind starea globală a escrocheriilor 2022, escrocheriile de investiții sunt acum cea mai răspândită escrocherie de pe internet. Infractorii cibernetici au început să folosească deepfakes pentru a promova scheme frauduloase, cum ar fi platforma "BitVex", care a fost "aprobată" de un deepfake al lui Elon Musk. Aceștia au făcut reclamă înșelătoriei folosind interviuri legitime modificate cu ajutorul tehnologiei deepfake pentru a folosi vocea lui Musk într-un scenariu furnizat de escroci.
- Deepfake Pornografie și șantaj: Pornografia este încă un tabu major în majoritatea societăților și poate duce la orice, de la jenă la excludere socială pentru persoanele care apar în videoclipurile pornografice. Au fost raportate cazuri de bărbați respinși care au creat deepfakes de femei pentru a le șantaja. Deepfake pornografic este, de asemenea, o preocupare majoră pentru celebrități ale căror fețe au fost folosite fără consimțământ pentru a crea videoclipuri în care sunt implicate în acte sexuale.
Cum să depistați deepfake-uri
În primele zile ale deepfakes, depistarea unui deepfake era la fel de simplă ca și observarea dacă ochii clipesc. Ochii care nu clipeau semnalizau un deepfake, deoarece tehnologia nu era suficient de avansată pentru a crea ochi care clipesc. Pe măsură ce tehnologia se îmbunătățește, devine din ce în ce mai dificil de identificat un deepfake. Cu toate acestea, există totuși câteva semne pe care le puteți observa dacă sunteți foarte atenți:
- Sincronizare necorespunzătoare a buzelor
- Clipitul nefiresc
- Mișcări bâlbâite
- Umbre lipsă și iluminare nefirească
- Părul nemișcat sau mișcarea nefirească a părului
În general, deepfakes au tendința de a avea efectul "uncanny valley", în care creierul simte că ceva nu este natural. Pentru a combate focul cu foc, sunt în curs de dezvoltare instrumente care folosesc inteligența artificială pentru a identifica deepfakes. Tehnologia deepfake se îmbunătățește rapid și, prin urmare, este imperativ să rămâneți în alertă și să urmăriți semnele de avertizare ale escrocheriilor deepfake.
Surse
https://www.scamadviser.com/ro/articles/nu-va-lasati-pacaliti-de-deepfakes
https://www.dnsc.ro/citeste/comunicat-dnsc-ing-eveniment-informal-presa-tentative-frauda-deep-fake
