Două sisteme OpenAI au „evadat” ieri din mediul de testare și au atacat altă companie

Într-un scenariu care sună a început de Skynet, OpenAI și-a făcut o mea culpa înspăimântătoare azi. Se pare că ieri, marți, 21 iulie, două sisteme de inteligență artificială ale companiei au evadat din mediul lor de testare. Mai mult decât atât, s-au conectat la internet și au pătruns în rețeaua unei alte companii.

E vorba despre Hugging Face, cu care OpenAI colabora, un furnizor de instrumente open-source pentru AI. Totul s-a petrecut în cadrul unui test al capacităților de securitate cibernetică, care a ieșit prost. Hugging Face descoperise breșa de săptămâna trecută, ce-i drept, dar nu știa anvergura sa. Nu știa nici cine era atacatorul și dacă fuseseră compromise date ale clienților.

Vă dați seama cât de surprinși au fost când au aflat că e vorba despre sisteme OpenAI. Rezolvarea a venit prin modele open-source din China, altfel nu ar fi putut opri atacul. OpenAI își recunoaște vina într-o postare pe blogul propriu, iar un model AI era GPT-5.6 Sol, iar celălalt era unul încă nelansat, mai performant. Teoretic, ele erau izolate într-un sandbox, de unde nu aveau acces la internet.

AI-ul și-a folosit totuși abilitățile de hacking pentru a scăpa din sandbox. A găsit o metodă să se conecteze la internet și apoi a intrat în rețeaua Hugging Face. Aparent, a făcut asta ca... răspuns la o întrebare cu privire la performanță. OpenAI și-a făcut regulile și configurările mai stricte când vine vorba de teste de securitate și conectare la internet. Investigația continuă și se reconstruiește pas cu pas atacul, pentru a vedea ce a mers prost.

Agenții au executat sarcini complexe, de la escaladarea privilegiilor în mediul de cercetare OpenAI la deplasarea laterală între sisteme sau căutarea unui nod care avea acces la internet. Au furat și date de autentificare și au combinat mai multe vulnerabilități.

Personal, mă întreb cum ne vom da vreodată seama că a scăpat un astfel de model AI catastrofic într-o rețea vitală, dacă el va învăța să își ascundă urmele? Într-o rețea de control a unei centrale nucleare, într-o rețea de apă potabilă, de gaze, în sistemul computerizat al unui spital?