Inteligență Artificială & LLM

Google deschide SynthID pentru a verifica dacă o imagine, un videoclip sau un audio este sau nu AI, dar problema este că este un placebo

Google deschide SynthID pentru a verifica dacă o imagine, un videoclip sau un audio este sau nu AI, dar problema este că este un placebo

Dacă știrile false erau deja o problemă, distribuite în principal prin rețele precum X sau Facebook, odată cu apariția imaginilor care face AI și delimitarea din ce în ce mai realistă a generativității și a neclarității. artificialul... care a explodat. Acesta este motivul pentru care Google DeepMind a lansat SynthID în 2023, o marcă și un instrument de utilizare închisă pentru a identifica imaginile false. Acum au decis să o deschidă tuturor și este mai capabil ca niciodată.

Problema este că este (foarte) departe de a fi infailibil.

SynthID

De fapt, aceasta este tehnologia de filigranare pe care DeepMind a lansat-o acum câțiva ani și, practic, este ceva care încorporează imagini audio sau video imperceptibile. de AI. Face acest lucru în momentul creării piesei și nu este ceva ce vedem noi (cum ar fi un filigran în text sau simbolul Gemeni care a fost introdus anterior în IA Google), ci ceva mai profund conceput pentru a rezista decupărilor și filtrelor deasupra în cazul imaginilor, modificărilor de cadre și compresiei cu pierderi în video sau zgomot, compresie agresivă și modificări de viteză în cazul audio.

Conform Google, cu această tehnologie au marcat peste 180.000 de milioane de imagini și videoclipuri... și mai mult de 00040 de ani audio. Este atât de nebunesc să fi marcat asta și să fi generat atât de multe într-un timp atât de scurt. 

Zăpada din Kamchatka generată de AI simbolizează ceva îngrijorător: nu mai putem avea încredere în nicio imagine de pe internet
Zăpada din Kamchatka generată de AI simbolizează ceva îngrijorător: nu mai putem avea încredere în nicio imagine de pe internet

Puteți încerca

Este la fel de ușor ca să accesați site-ul oficial al serviciului sau pe Gemeni și să încărcați un fișier. În câteva secunde, vă oferă un rezultat și vă spune cu ce a fost creat, deoarece OpenAI și Google au propriul lor tablou de bord. Există limitări privind dimensiunea fișierului, durata videoclipului (trebuie să fie mai mici de 90 de secunde) și există într-adevăr doar 20 de interogări pe zi. Până la urmă, este încă un AI și care consumă resurse pe care Google nu ne va oferi.

AI Image

Problemă

Nu este un standard. Kakao, Nvidia pe Cosmos și instrumente OpenAI precum ChatGPT sau Codex îl susțin și îl integrează în API-ul lor, dar dacă conținutul este generat cu un alt program AI, SynthID nu poate citi acei markeri ascunși și, prin urmare, nu știe dacă este sau nu AI.

Am făcut testul cu imaginea pe care o ai chiar deasupra acestor linii, care este AI care se poate recunoaște de la kilometri distanță... și nimic. Este o imagine pe care un lucrător de la Meta Superintelligence Labs a împărtășit-o și cine știe cu ce a creat-o, dar se presupune că nici cu Gemini și nici cu ChatGPT. Google însuși subliniază că detectorul poate ști dacă ceva este AI numai dacă a fost creat „cu AI de la Google sau de la partenerii noștri”.

Apropo de Meta, deja în 2024, compania lui Zuckerberg a subliniat că nu a fost posibil să se identifice tot conținutul generat de AI, în timp ce alții au apărut pentru a identifica acel conținut generat de AI, și au apărut pentru a identifica acest instrument. OpenAI are propriul instrument bazat pe Google și ei înșiși recunosc că „conținutul ar fi putut fi încă generat de OpenAI dacă metadatele sale ar fi fost eliminate sau manipulate, filigranul său a fost degradat, a provenit dintr-un model de generație moștenit înainte de a fi dovedit sau a semnalat că a fost creat înainte de a fi dovedit

La mijlocul anilor '90, mii de oameni credeau că computerele emit radioactivitate. Așa că au primit un cactus
La mijlocul anilor '90, mii de oameni credeau că computerele emit radioactivitate. Așa că au primit un cactus

Alternative

Companiile care creează AI și o perfecționează pentru a o face din ce în ce mai precisă, ștergând chiar și filigranele care anterior erau clar vizibile, sunt aceleași care lucrează la instrumente pentru a identifica aceste imagini false. Adaugă o complicație la ceva care ar trebui să fie mult mai simplu, dar în afară de SynthID, Adobe și Meta au lansat și sisteme similare.

Cea mai notabilă propunere în acest sens este standardul C2PA (Coalition for Content Provenance and Authenticity). Acesta gestionează tehnologii precum specificațiile de acreditări de conținut pentru a eticheta conținutul generat de AI și sunt incluse unele dintre cele mai mari companii din sector. Cealaltă alternativă este cea mai utopică: încrederea în umanitate. 

În martie 2025, Guvernul a aprobat un proiect de lege care nu a considerat-o ca fiind o încălcare gravă a conținutului AI. De atunci, nu numai că am fost bombardați de elemente generate de AI, dar chiar și influenceri falși au ieșit (făcuți cu AI, vreau să spun) cu mesaje dăunătoare despre orice și cu un mesaj care poate rezona la anumite audiențe.

În investigația noastră tehnică | Am putea presupune că lumea plantelor a fost unul dintre ultimele colțuri fără AI. Ne-am înșela

Partajează acest dosar: