O lume în care se spune adevărul, tot adevărul și numai adevărul ar fi foarte diferită de lumea noastra. Dacă nu sunteți convinși, faceți-vă timp și (re)vedeți filmul “The Invention of Lying”. Într-o bună parte din film, în lumea asta imaginară, nu există nici măcar conceptul de minciună. Oamenii spun exact ce simt, ce gândesc și cum gândesc. Eroul filmului – un scenarist – descoperă, din greșeala, ca alterarea adevărului îi poate schimba viața în bine. Folosind doar cuvinte pentru a distorsiona adevărul, poate obține bani, o poziție socială mai bună sau sex. Cu excepția lui, toată lumea spune numai adevărul și crede tot ceea ce este pus în cuvinte. De pilda, când eroul filmului este atras de o femeie frumoasă, pe o stradă aglomerată, dialogul decurge cam așa:
[EL] - The world is going to end unless we have sex right now. [1]
[EA] - Do we have time to go to a motel or do we have to do it right here?
„Ceea ce este mai îngrijorător este că, în plină expansiune tehnologică, se poate minți mai mult, mai repede, mai ieftin și mai convingător.”
Din păcate, lumea în care trăim nu este o lume numai a adevărului. Știm prea bine, cu toții, că omisiunea, descrierea imaginară sau negarea adevărului sunt deseori folosite pentru a ne scoate din încurcătura sau pentru a ne ajuta să obținem ceea ce dorim. Ceea ce este mai îngrijorător este că, în plină expansiune tehnologică, se poate minți mai mult, mai repede, mai ieftin și mai convingător. Tehnologia facilitează minciuna nu doar pentru că, dezvoltată fiind de către oameni, tehnologia în sine poartă în ea toate prejudecățile, stereotipurile, excesele, frustrările sau preferințele noastre. Tehnologia facilitează minciuna și pentru că amplifică, robotizează și distribuie nu numai ceea ce este bun în noi ci și ceea ce este rău. Așa se întâmplă că dacă mințim și dezamăgim în viața de zi cu zi, tehnologia ne poate ajuta să mințim mai convingător și să dezamăgim mai tare. Pe noi înșine sau pe alții.
Să luăm de pildă reprezentarea noastră digitală de pe Facebook, avatarul nostru drag. Viața lui virtuală, construită cu grijă, este documentată cu imagini superbe, sugerând emoții positive, o viață de invidiat care, cu timpul, are din ce in ce mai mai puțin de a face cu viața noastră reală. Și cine ne poate acuza că nu postăm imagini despre eșecurile noastre, despre momentele de depresie sau experiențele neplăcute. Lumea virtuală pe care am construit-o este lumea în care am dori să trăim. Avatarul, imaginea noastră în spațiul virtual, este, cel mai probabil, o reprezentare a persoanei care am dori să fim, o persoană agreabilă, atractivă, de success, cu o viață de invidiat.
Ca și în povestirile sci-fi bune, reprezentarea digitală alternativă este construită din elemente reale: nume, date personale, prieteni, preferințe, înclinații și prejudecăți, unde locuim și unde mergem în concediu, ce simțim, ce gândim, spre ce năzuim. Pentru ca să folosim rețeaua socială, cedăm dreptul de proprietate asupra acestor informații celor care au construit-o. Aceștia își recuperează investiția vânzând aceste date/”profile”, așa cum sunt sau anonimizat, celor interesați să ne vândă un produs, serviciu sau să ne influențeze opțiunile politice, preferințele, atitudinile. „When you have enough data you don't need to send soldiers, in order to control a country.”[2]
''Algoritmii Facebook extrag zilnic „ce s-a mai întâmplat”, algoritmii Netlix extrag „ce se mai vizionează”, algoritmii Amazon și Alibaba extrag „ce se mai cumpără”, iar algoritmii Google extrag adevărul digital.''
Da, este adevărat, la date ca acestea aveau acces și KGB-ul, Stasi sau Securitatea dar datele erau pe hârtie și nu puteau fi prelucrate decât de oameni. Multiplicați bogăția de date pe care le cedăm cu imensa putere de calcul disponibilă pentru a înțelege puterea din mâna celor care le dețin pe amândouă, pericolul real al unei dictaturi digitale, care ne monitorizează pe toți, în permanență. Vezi surprinzătoarele rezultate electorale în mai multe țări și Brexit. Țări întregi riscă să devină colonii digitale. Algoritmii Facebook extrag zilnic „ce s-a mai întâmplat”, algoritmii Netlix extrag „ce se mai vizionează”, algoritmii Amazon și Alibaba extrag „ce se mai cumpără”, iar algoritmii Google extrag adevărul digital.
Da, lucrurile stau diferit când căutam ceva pe Google. Aici nu trebuie să mințim pentru că nu trebuie să impresionăm pe nimeni, nici măcar pe noi. Pe Google suntem “anonimi”. Căsuța albă în care trebuie să scriem ce căutam nu ne inhibă, istoricul căutărilor îl putem șterge. Căutam ce ne interesează: sex, politică, mașini, prieteni, orice.
Ceea ce căutam pe Google descrie cu adevărat cine suntem, este adevărul digital. Dacă cineva ar analiza căutarile noastre (putem fi liniștiți, cineva totdeauna analizează) ar putea ușor deduce pasiunile noastre secrete, frustrările, afecțiunile, simpatiile politice, preferințele muzicale sau înclinațiile sexuale. Setul de date colectat de Google (Big Data)[3] este, probabil, cel mai important set de date despre psihicul uman. Și aflăm [4] din aceste date că sunt mai mulți care caută pornografie decât starea vremii, că părinții pun întrebări legate de inteligență mai mult în legătură cu baieții decât cu fetele, și complet invers când întreabă despre greutate. Și multe alte lucruri pe care, probabil, niciodată nu ne-am gândi să le împărtășim pe Facebook.
Era de așteptat că odată cu evoluția exponențială a tehnologiei să evolueze și afacerile, economia, societatea, oamenii și evident, odată cu oamenii, și minciuna. Ne-am obișnuit deja cu imagini prelucrate în Photoshop și cu animațiile generate de computer. Dar, probabil că nimeni nu se aștepta ca dezvoltarea să fie atât de rapidă încât minciuna digitală, minciuna facilitată de tehnologie, să fie atât de bine construită încât să nu mai putem distinge cu ochiul liber și cu mintea odihnită, adevărul de minciună. Este vorba de “deepfakes”, “falsuri profunde”, fișiere multimedia manipulate, deci false, create de oameni cu ajutorul algoritmilor de inteligență artificială (AI) pentru a face să pară că anumite persoane au spus sau au făcut ceva care de fapt nu s-a întâmplat. “Deep”, adică adânc/profund, descrie complexitatea ridicată a algoritmilor de inteligență artificială folosiți, iar “fake”, adică fals, descrie rezultatul.
„Folosind doar cinci secunde de înregistrare audio, cu ajutorul algoritmilor de inteligență artificială putem clona vocea oricărei persoane.”
Tehnologia a evoluat atât de mult încât gesturile noastre, felul în care mișcăm buzele, mișcarea buzelor, gura, capul și felul în care mișcăm capul pot fi translatate fidel unei simple fotografii. Cu alte cuvinte, putem transfera conținutul video realizat cu o persoană unei fotografii țintă a altei persoane.
Sintetizarea vocii este la fel de avansată. Folosind doar cinci secunde de înregistrare audio, cu ajutorul algoritmilor de inteligență artificială putem clona vocea oricărei persoane. Folosite împreună, aceste performanțe tehnologice au făcut posibilă acest nou tip de minciună numit “deepfake”/”fals profund”.
Majoritatea produselor “deepfake” le găsim, în prezent, pe rețelele sociale precum YouTube sau Facebook și pot pot fi considerate distracții nevinovate sau produse cu veleități artistice,cum este de pildă acestă reclamă pentru Nike | You Can't Stop Us:
Există însă și o parte întunecată a utilizării acestor falsuri. Trăim astăzi într-o perioadă pe care unii au numit-o epocă „post-adevăr”, care se caracterizează prin dezinformare digitală și război informațional condus de actori statali și non-statali care desfășoară campanii intense de informații false pentru a manipula opinia publică. Printre victoriile acestor campanii se numără alegerile în mai multe state sau Brexit.
Ceea ce ar trebui, poate, să ne dea de gândit nu este sofisticarea tehnică, în sine ci faptul că oamenii nu pierd prea mult timp să judece dacă ceva este real. Oamenii văd ceea ce vor sa vadă și aud ceea ce vor sa audă. Modul în care procesâm informațiile este specific uman și, din păcate, cu toții suntem tentați să credem lucrurile care confirmă ceea ce știm, ceea ce suntem, ceea ce ne dorim și trebuie un efort rațional și deliberat pentru a discerne adevărul.
Imaginați-vă impactul unor falsuri profunde în acțiuni agresive de discreditare5 sau efectul difuzării unor false declarații militare la scara unei națiuni sau alianțe6. Falsurile profunde distribuite aproape instantaneu la milioane de utilizatori pot avea un impact dezastruos, reprezentând o amenințare directă la siguranța națională. Pe de altă parte imaginați-vă câți dintre oamenii de afaceri sau politicienii escroci sau criminali ar da cu piciorul la argumentul “fake news” pentru a nega validitatea materialelor audio sau video reale.
Deci, cum facem față acestui flux constant de dezinformare, numit “Infocalipsă”? Problema este deosebit de complexă și din păcate încă nu are soluții clare și în lipsa acestora ne pândește apatia și resemnarea. Pentru că nu mai putem deosebi adevărul de minciună vom alege să nu mai avem încredere în nimic digital.
Poate că ar trebui prin a ne educa copiii și pe noi înșine cum să deosebim faptele reale de falsurile profunde, știrile adevărate de „fake news”. Cu câteva reguli simple putem măcar limita cantitatea de minciună care ne este servită: verificarea sursei știrilor, studierea contextului, corelarea știrilor cu alte date, imagini, istoric, credibilitatea și reputația autorului/sursei, istoricul sursei. Școala, de asemenea, trebuie să contribuie prin dezvoltarea gândirii critice, a responsabilității și măcar un curs despre „igiena digitală”. Așa cum avem grijă ce mâncăm și ce aer respirăm trebuie să avem grijă ce conținut digital consumăm și/sau re-distribuim.7
În acelasi timp, legiuitorii ar trebui să gândească o legislație care să combată falsul digital, organizațiile și companiile ar trebui să elaboreze politici și să organizeze acțiuni/traininguri pentru a lupta împotriva falsurilor.
Ne așteptăm și la un ajutor din partea tehnologiei în detectarea falsurilor sau autentificarea computerizată. Platformele sociale (ca Facebook și YouTube) au datoria nu doar de a enunța strategii anti-dezinformare ci și de a implementa filtre și mecanisme care luptă eficient cu falsurile. Strategia de a furniza mai multe informații despre sursele știrilor nu determină lumea să creadă mai puțin în știrile false.
Să începem însă cu noi, să dăm mai puține informații din casă fabricii de narcisism numită Facebook, să re-distribuim numai informații verificate, să facem periodic o cură de dezintoxicare digitală încuind avatarul digital într-un sertar și petrecând câteva zile în natură, cu prieteni adevărați.
Notele autorului:
Avatar este aici folosit în accepțiunea de reprezentare a omului, ca individ, în universul digital.
Infocalipsa este cuvânt compus pentru a sugera riscul de distrugere catastrofică cauzat de informația falsă.
1. https://www.youtube.com/watch?v=RhRnmyBjOLs
2. Când ai suficiente date, nu mai trebuie sa trimiți soldați ca să controlezi o țară. - Yuval Harari la Davos 2020
3. Seturi extrem de mari de date și informații legate de oameni și comportamentul lor, care pot fi analizate pentru a extrage învățăminte, adică un fel de bunică digitală.
4. https://www.amazon.com/Everybody-Lies-Internet-About-Really-ebook/dp/B01AFXZ2F4#ace-g1821396653
5.https://www.wired.co.uk/article/how-to-spot-deepfake-video
lasă un comentariu