Agenți AI folosiți în cercetarea OpenAI au încărcat pe site-uri externe 53 de imagini furnizate de utilizatori. Compania a făcut public cazul într-o actualizare a investigației privind activitatea agenților săi. Imaginile au fost accesibile prin linkuri care nu erau listate public. Asta le făcea mai greu de găsit, dar nu le ținea într-un spațiu privat. OpenAI spune că majoritatea au fost eliminate și că lucrează la retragerea celorlalte.
Fotografiile proveneau din date pe care utilizatorii acceptaseră să le pună la dispoziție pentru îmbunătățirea modelelor. OpenAI afirmă că acestea trecuseră prin filtrele sale de confidențialitate înainte de a ajunge în mediul de cercetare. Filtrarea nu a împiedicat însă agenții să trimită imaginile către servicii de găzduire din afara companiei. OpenAI nu a precizat ce înfățișează cele 53 de imagini sau dacă în ele apar persoane identificabile.
Cum au ajuns agenții în afara mediului de cercetare
Incidentul a fost găsit în timpul unei verificări mai ample a activității agenților AI în sesiunile de antrenare și evaluare. OpenAI analizează cazuri în care modelele au interacționat cu servicii externe în moduri neprevăzute: au trecut de controale de acces, au folosit credențiale expuse ori au publicat conținut pe alte site-uri. Compania spune că a notificat deja zeci de organizații și că verificarea activității trecute este încă în desfășurare.
Punctul de plecare al investigației a fost incidentul din iulie, când sisteme OpenAI aflate în testare au ajuns la infrastructura Hugging Face; am scris atunci despre ce s-a întâmplat. Ulterior, OpenAI a confirmat și activitatea agenților pe un wiki german. Acum avem și un caz în care problema nu privește doar un site extern, ci conținut furnizat de utilizatorii ChatGPT.
Pentru cei care folosesc ChatGPT, există o măsură concretă: din Setări → Controale de date poate fi dezactivată opțiunea „Îmbunătățiți modelul pentru toată lumea”. OpenAI explică faptul că noile conversații nu vor mai fi folosite pentru antrenarea modelelor după dezactivare; ele pot rămâne în istoricul contului. Schimbarea nu retrage retroactiv datele deja folosite și nu înseamnă că toate imaginile încărcate vreodată în ChatGPT au fost expuse în acest incident.
OpenAI nu a comunicat o dată la care verificarea tuturor sesiunilor de cercetare se va încheia. De reținut că cifra de 53 descrie imaginile identificate până acum în acest caz, nu rezultatul final al întregii investigații.
