Google ia măsuri pentru a combate abuzul de falsuri și imagini false, create cu AI. A anunțat verificarea bazată pe SynthID direct din aplicația Gemini. Utilizatorii pot acum să încarce o imagine în Gemini și să întrebe dacă aceasta a fost creată sau modificată cu ajutorul modelelor AI dezvoltate de Google.
Funcția este ușor de folosit și vine ca un răspuns clar la dilema tot mai prezentă în mediul digital: „Este imaginea asta reală sau generată de AI?”. Odată încărcată imaginea în aplicație, utilizatorii pot adresa întrebări precum „Aceasta a fost creată cu AI-ul Google?” sau „Este generată cu AI?”. Gemini va scana imaginea și va căuta indicatorul digital inserat de SynthID. Acesta este un watermark invizibil care indică originea AI a conținutului. Dacă semnalul este detectat, aplicația va oferi context și detalii despre cum și unde ar fi putut fi generată imaginea.
SynthID a fost lansat în 2023 și, potrivit Google DeepMind, peste 20 de miliarde de fișiere generate sau modificate de AI au fost deja marcate cu această tehnologie. Inițial, SynthID a fost testat împreună cu jurnaliști și profesioniști din media printr-un portal dedicat, iar acum ajunge la publicul larg prin Gemini.
Google spune că această mișcare este parte dintr-o strategie mai amplă care vizează furnizarea de context vizual mai clar în căutările din Search și în proiecte de cercetare ca Backstory, dezvoltate de echipa DeepMind. Planurile viitoare includ extinderea verificării SynthID și la formate precum video și audio, dar și integrarea acesteia în alte produse Google, cum ar fi chiar motorul de căutare.
