Inteligență Artificială & LLM

Rețelele sociale versus deepfakes: o revizuire a politicilor Facebook, Instagram, Twitter și LinkedIn

Rețelele sociale versus deepfakes: o revizuire a politicilor Facebook, Instagram, Twitter și LinkedIn

Deepfake-urile reprezintă o provocare pentru platformele sociale. Acest tip de conținut manipulat, constând în editarea unui videoclip, audio sau imagine folosind inteligența artificială pentru a arăta, de exemplu, o persoană cu relevanță publică spunând ceva ce nu a spus cu adevărat, reprezintă o provocare pentru platformele în care conținutul viral tinde să se răspândească rapid și, în funcție de context, poate duce la neînțelegeri.

Astfel, și după anunțul recent al Facebook despre deepfakes, ne-am întrebat: Ce politici au manipulat principalele platforme de conținut de inteligență artificială cu privire la conținutul social? Pentru a clarifica îndoielile, am analizat condițiile Facebook, Instagram, LinkedIn și Twitter și, în plus, am analizat ce acțiuni întreprind alți actori din lumea tehnologică pentru a ajuta la combaterea lor.

Facebook

Facebook

Începem cu cea mai populară rețea socială din Occident: Facebook. Monika Bickert, vicepreședinte pentru managementul politicilor globale la Facebook, a explicat pe blogul corporativ al companiei că „există oameni care se angajează în manipularea mass-media pentru a înșela” și că, „deși aceste videoclipuri sunt încă rare pe internet”, ele reprezintă o „provocare semnificativă pentru industria și societatea noastră, pe măsură ce utilizarea lor crește.”

Compania a explicat că, după ce a consultat „mai mult de 50 de experți din întreaga lume”, a optat pentru o politică simplă: eliminați conținutul falsificat atâta timp cât aceste două cerințe sunt îndeplinite:

  • „A fost editat sau sintetizat, dincolo de ajustările de claritate și claritate, într-un mod care nu este clar pentru o persoană obișnuită și care este posibil să vă păcălească, făcându-vă să credeți că subiectul videoclipului a spus cuvinte pe care el sau ea nu le-a spus de fapt.

  • Dacă este un produs al inteligenței artificiale sau al învățării automate, îmbinarea, înlocuirea sau suprapunerea conținutului pe un videoclip pentru a-l face să pară autentic.”

Nu crede tot ce vezi: deepfakes și inteligență artificială aplicată la arta înșelăciunii (Clear the X, 1x34)
Nu crede tot ce vezi: deepfakes și inteligență artificială aplicată la arta înșelăciunii, la X,34

Acum, există excepții. Videoclipurile manipulate în scopuri satirice sau parodice și cele care au fost editate pentru a omite cuvinte sau pentru a le schimba ordinea nu vor fi șterse. Adică, într-un fel sau altul, este încă posibil să se publice conținut manipulat. Există o altă avertizare și anume că conținutul publicat de politicieni nu va fi cenzurat, chiar dacă publică deepfakes despre rivalii lor.

Parodiile, videoclipurile satirice și cele publicate de politicieni sunt exceptate de la aplicarea criteriilor menționate mai sus

Motivul? Interesul jurnalistic. Potrivit Andrea Vallone, purtătorul de cuvânt al Facebook, platforma aplică „aceleași standarde ca și alți utilizatori atunci când vine vorba de mass-media manipulată” deși „dacă conținutul este de vreun interes jurnalistic, chiar dacă încalcă regula, vom evalua de la caz la caz dacă ar trebui să li se permită să rămână pe platformă”. Mashable l-a întrebat pe Vallone ce s-ar întâmpla dacă conținutul demn de știri ar fi clasificat ca fiind manipulat (adică, îndeplinește cele două criterii prezentate mai sus) și nu a primit niciun răspuns. Cel mai clar exemplu al acestei excepții este videoclipul Nancy Pelosi.

În sfârșit, Facebook clarifică faptul că „în conformitate cu politicile noastre existente, sunetul, fotografiile sau videoclipurile, fie false sau nu, vor fi eliminate de pe Facebook dacă încalcă oricare dintre celelalte standarde comunitare, inclusiv cele care reglementează nuditatea, violența grafică, suprimarea alegătorilor și ură.

Instagram

Instagram

În publicația sa, Monika Bickert se referă exclusiv și exclusiv la Facebook. Instagram nu este menționat în niciun fel deoarece, de fapt, au standarde comunitare diferite deși sunt de la aceeași companie, FACEBOOK, cu majuscule. Politica Instagram împotriva deepfake-urilor este la fel de simplă pe cât nu există nicio politică împotriva deepfake-urilor, cel puțin pentru moment.

Cu siguranță ne amintim cum, în iunie 2019, a apărut un deepfake al lui Mark Zuckerberg pe Instagram pe platforma publicată și a ales să-l lase pe Instagram și BS a ales să-l lase. a cerut Facebook să-l elimine deoarece videoclipul conținea marca sa înregistrată). La acea vreme, un purtător de cuvânt al companiei a declarat pentru The Verge că „vom trata acest conținut în același mod în care tratăm toate informațiile greșite de pe Instagram” și că „dacă terții îl vom verifica de pe Instagram, îl vom verifica fals, Instagram suprafețe de recomandare precum Explorare și pagini cu hashtag." Aceeași politică ca și știrile false.

La scurt timp mai târziu, CEO-ul Instagram, Adam Mosseri, a oferit un interviu cu CBS și a explicat că „nu avem în prezent o politică împotriva deepfakes, dacă evaluăm și evaluăm. am dori să facem asta și, dacă da, cum am defini deepfake-urile, potrivit lui Mosseri:

„Trebuie să avem principii definite și trebuie să fim transparenți cu privire la acele principii [...] În prezent, încercăm să echilibrăm securitatea și dialogul, iar acest echilibru este foarte, foarte complicat. În acest moment, cel mai important lucru pe care trebuie să ne concentrăm este să ajungem mai rapid la conținut. Odată ce putem face acest lucru, putem discuta dacă îl eliminăm când îl găsim.”

În decembrie anul trecut, Instagram a explicat cum va combate informațiile false de pe Instagram și, în acest proces, a anunțat extinderea globală a programului de verificare a faptelor. Politica este similară cu Facebook, prin aceea că „dacă un verificator de fapte terță parte a evaluat conținutul ca fiind fals sau parțial fals, vom reduce distribuția acestuia prin eliminarea acestuia din secțiunea Explorare și paginile cu hashtag. În plus, va fi etichetat, astfel încât oamenii să poată decide singuri în ce să citească, să împărtășească și să aibă încredere. Dacă se aplică aceste etichete, acestea vor fi afișate tuturor celor care vizualizează conținutul din întreaga lume, în fluxul de știri, profil, povești și mesaje directe.”

Twitter

Twitter

În linia Instagram este Twitter. În prezent, nu are o politică privind deepfake-urile, dar cere utilizatorilor feedback pentru a „contura abordarea noastră față de conținutul sintetic și manipulat”. Acest lucru, potrivit lui Del Harvey, vicepreședintele Securității și Încrederii la Twitter, răspunde faptului că ei doresc ca regulile lor „să reflecte vocea oamenilor care folosesc Twitter”.

Twitter nu are o definiție exactă pentru conținutul manipulat sau sintetic, dar prima aproximare este următoarea:

„Ne propunem să definim mediile sintetice și manipulate ca orice fotografie, sunet sau video care a fost modificată sau fabricată în mod semnificativ într-un mod care are scopul de a înșela oamenii sau de a schimba sensul său original.”

Harvey expune, de asemenea, „o schiță” a ceea ce vor face când detectează medii sintetice și manipulate care „încearcă în mod intenționat să înșele sau să încurce oamenii”. Potrivit lui Harvey, Twitter poate:

  • „Plasați o notificare lângă Tweeturile care partajează conținut media sintetic sau manipulat.
  • Avertizați oamenii înainte de a distribui sau de a aprecia tweet-uri folosind mijloace sintetice sau manipulate.
  • Adăugați un link, de exemplu, la un articol de știri sau la un moment Twitter, astfel încât oamenii să poată citi mai multe despre motivul pentru care diverse surse cred că mass-media este sintetică sau manipulată.”

În continuare, evidențiază faptul că „dacă un Tweet care include materiale sintetice sau manipulate este înșelător și ar putea amenința siguranța fizică a cuiva sau poate cauza alte vătămări grave, îl putem elimina”. Totuși, acesta este un proiect și în acest moment nu există o politică fermă. Utilizatorii și-au putut exprima opinia până pe 27 noiembrie 2019, iar Twitter a spus că vor face „un anunț cu cel puțin 30 de zile înainte ca politica să intre în vigoare”.

LinkedIn

Linkedin

Ajungem la LinkedIn, care nu a fost salvat de la deepfakes. Cel mai celebru caz este cel al Katie Jones, un profil fals care a făcut legătura cu oameni din sfera politică a Washington DC și care a ieșit la iveală după ce Associated Press a descoperit că fotografia de profil era deja generată cu AI (deficiența pe care o cunoașteam deja cu AI). că acest lucru este mai mult decât posibil). Unii au numit acest profil „spion” și, potrivit lui William Evanina, directorul Centrului Național de Contrainformații și Securitate al Statelor Unite, „spionii străini folosesc în mod obișnuit profiluri false de rețele sociale pentru a viza ținte americane”.

LinkedIn nu are o politică împotriva deepfake-urilor, deși are o politică împotriva profiluri false, care sunt strict interzise. Are un sistem de „apărare automată” bazat pe inteligență artificială și învățare automată, care în prima jumătate a anului 2019 a dărâmat 98% din conturile false care au fost create. În total, în prima jumătate a anului 2019, au fost întreprinse acțiuni împotriva a 21,6 milioane de conturi false.

Acestea sunt locurile de muncă ale viitorului conform LinkedIn: specialiștii în inteligență artificială câștigă 140.000 USD anual
Acestea sunt locurile de muncă ale viitorului conform LinkedIn: specialiștii în inteligență artificială câștigă 140.000 USD anual

Există și nu există nicio mențiune explicită a deepfakes.

Ce fac platformele tehnologice pentru a ajuta la combaterea lor

Având în vedere politicile platformelor privind deepfake-urile, merită să aruncăm o privire asupra sectorului tehnologic pentru a vedea ce fac companii precum Google, Facebook sau Adobe pentru a ajuta la detectarea deepfake-urilor.

Facebook, de exemplu, pretinde să poată detecta un deepfake pe platforma sa originală, deși anterioară nu a avut ocazia de a analiza fișierul original, dacă acesta nu are întotdeauna ocazia de a analiza caz. Pentru a dezvolta instrumente de detectare, Facebook (în colaborare cu Microsoft și alte companii) a creat o bază de date deepfake și Deepfake Detection Challenge pentru a încuraja dezvoltatorii. Ambele inițiative sunt subvenționate cu 10 milioane de dolari.

Ceva similar se face de către Google, care, în colaborare cu Jigsaw, a lansat un set imens de date deepfake care au fost încorporate în Universitatea Tehnică din München și Universitatea Tehnică din Napoli și Universitatea Federicoa II poate fi descărcată de la Universitatea Federico II. href="https://github.com/ondyari/FaceForensics/">GitHub. Acest set de date încearcă să ofere un fel de bază de instruire pentru algoritmii de detectare și a fost deja descărcat de peste 150 de organizații de cercetare și industriale.

În sfârșit, merită evidențiat cazul Adobe. Compania de dezvoltare Photoshop are un instrument care, potrivit Adobe, este capabil să detecteze cu ajutorul unui instrument foto când fata a fost manipulată. Este posibil datorită unei rețele neuronale convoluționale care a obținut în primele teste o 99% acuratețe.

Chiar și așa, ori de câte ori există o soluție, se creează un sistem capabil să o încalce. Ragavan Thurairatnam, co-fondatorul Dessa, a explicat destul de bine: va fi „inevitabil ca actorii răuvoitori să se miște mult mai repede decât cei care vor să-i oprească”.

Partajează acest dosar: