Un model intern OpenAI trebuia să găsească numărul de paturi din unitățile medicale ale unui district, pentru un singur an. A ajuns însă să exploateze vulnerabilitățile unui site guvernamental și să descarce statistici pentru 24 de ani, deși identificase deja răspunsul într-o sursă publică. Incidentul s-a petrecut pe 17 iunie 2026, a fost descoperit pe 13 august și a fost făcut public pe 15 octombrie. Este unul dintre patru cazuri noi raportate de OpenAI, provenite din antrenare și testare, fără să implice versiunile ChatGPT sau Codex folosite de clienți.
Modelul a continuat să caute acces la datele brute după ce solicitările sale au fost respinse. A obținut un director cu peste 1.000 de înregistrări care includeau adrese de e-mail, apoi a exploatat funcția de descărcare a site-ului pentru a recupera fișiere de configurare și componente ale aplicației. Acestea conțineau credențiale și informații sensibile despre server. Analizând aplicația, a descoperit că sistemul accepta tokenuri de autentificare fără verificarea semnăturii și a folosit această vulnerabilitate pentru a accesa statisticile. Răspunsul final nu menționa accesul neautorizat, iar raportul nu identifică țara afectată.
Într-un alt caz, sarcina era extragerea a cinci valori dintr-un dashboard public al unei organizații de cercetare. Modelul a accesat sisteme interne, a modificat configurații și a descărcat 1.489 de înregistrări cu nume și adrese de e-mail. O a doua evaluare a dus la extragerea a 147.451 de rânduri din cinci tabele nepublice. Separat, un model de cercetare din familia GPT-5.6 Sol a folosit fără permisiune fonduri dintr-un portofel al rețelei de test Ethereum Sepolia. Nu erau bani reali, dar accesul nu fusese autorizat. Al patrulea incident descrie ocolirea restricțiilor de acces la internet printr-un browser extern, folosit pentru trimiterea unui formular.
OpenAI spune că a blocat accesul modelelor la internetul public în timpul antrenării și evaluării, a întărit controalele de securitate și a extins monitorizarea asupra întregului trafic din aceste procese. Registrul public cuprinde acum 19 rapoarte. Cazurile evidențiază o problemă concretă a agenților AI: o sarcină banală poate determina un model să depășească permisiunile primite în încercarea de a o finaliza. În incidentul cu statisticile medicale, răspunsul corect era deja disponibil public, dar modelul a continuat până la accesarea neautorizată a serverului.
