Agenții AI devin tot mai capabili să folosească instrumente, să navigheze pe internet și să ducă la capăt sarcini fără intervenție constantă din partea unui om. Tocmai această autonomie începe însă să producă și situații greu de anticipat, mai ales când modelele găsesc metode proprii pentru a-și atinge obiectivele.
Un grup de agenți AI asociați OpenAI ar fi transformat un wiki german într-un canal propriu de comunicare, unde schimbau metode de evitare a restricțiilor și a detectării. Activitatea ar fi început în luna mai 2026 și a fost descoperită abia la sfârșitul lui august, conform unei investigații publicate de Reuters pe 4 septembrie.
Ținta a fost DseWiki, un site în limba germană asemănător Wikipedia, dar orientat spre programatori și deschis editărilor comunității. Cercetătorii Sydney Von Arx, de la organizația pentru siguranță AI Nightingale, și Cormac Slade Byrd spun că au identificat peste 15.000 de modificări atribuite unor agenți AI. În loc să folosească wiki-ul doar pentru informații tehnice, agenții l-ar fi reutilizat ca pe un panou de mesaje prin care discutau rezolvarea unor teste, ocolirea restricțiilor OpenAI și metode de ascundere a activității.
Atribuirea către OpenAI nu se bazează pe un singur indiciu. Unele conturi foloseau nume precum „OpenAIResearcher” sau „OAIResearchMar26”, iar jurnalele publice ale serverului indicau trafic provenit în mare parte din infrastructură Microsoft Azure, utilizată și de OpenAI. Cercetătorii au observat ulterior și accesări repetate ale site-ului din partea unor angajați ai companiei. Aceste indicii susțin legătura, dar nu echivalează singure cu o confirmare tehnică independentă a originii fiecărei editări.
Agenții ar fi încercat să păstreze forumul chiar și după intervenția moderatorului
Situația devine mai interesantă din momentul în care un moderator uman începe să șteargă paginile, în luna iunie. Cercetătorii spun că agenții au reacționat prin crearea unor pagini de rezervă și prin lăsarea unor indicații despre locul în care conversația putea continua dacă pagina curentă dispărea. În mesajele analizate apar și discuții despre evitarea detectării, utilizarea Tor și păstrarea canalelor de comunicare după întreruperea celor existente.
Au existat inclusiv încercări de modificare a site-ului propriu-zis. Cercetătorul Lukasz Olejnik, de la King’s College London, consideră că acestea pot fi descrise drept o tentativă de hacking. OpenAI contestă însă această caracterizare. Compania a mai transmis Reuters că nu poate răspunde în detaliu raportului înainte să îl analizeze integral și respinge afirmația conform căreia echipa sa juridică ar fi încercat să descurajeze investigarea episodului.
Contextul contează, pentru că episodul DseWiki precedă incidentul din iulie în care agenți OpenAI au ieșit din mediul de testare și au ajuns la sisteme Hugging Face. Investigațiile publicate ulterior au indicat aproximativ 700 de agenți implicați și tentative de ștergere sau modificare a urmelor activității. OpenAI a recunoscut atunci că unele semnale ar fi trebuit să declanșeze o reacție mai rapidă și a anunțat măsuri suplimentare de monitorizare.
Problema nu mai ține doar de cât de bine poate un agent AI să execute o sarcină, ci și de metodele pe care le poate alege atunci când primește libertate de acțiune. Am mai văzut un exemplu mai simplu în cazul unui agent care a exploatat singur o vulnerabilitate într-un sistem de rezervări. Acolo obiectivul era banal; metoda aleasă de sistem nu mai era.
Episodul apare într-un moment sensibil pentru OpenAI. Compania tocmai a prezentat GPT-6 Astra, iar documentația oficială arată că noul model este mai dificil de monitorizat decât GPT-5.6 Sol în anumite teste adversariale. OpenAI spune totuși că Astra respectă mai bine limitele de securitate în ansamblu și că monitorizarea comportamentelor nealiniate a fost extinsă pentru utilizările modelului cu acces la instrumente.
