Șefii celor mai mari companii AI au ajuns la Casa Albă și au plecat cu o promisiune comună: înainte să vină reguli mai dure de la stat, vor încerca să demonstreze că își pot ține singuri modelele sub control. Donald Trump a anunțat un acord voluntar semnat de Google, Anthropic, Meta, NVIDIA, OpenAI și xAI, pe care l-a descris drept „morally binding”. Documentul apare într-un moment în care incidentele de securitate cu agenți AI devin tot mai greu de tratat ca simple scenarii teoretice. Detaliile întâlnirii au fost publicate de CNN și confirmate de Associated Press.
Pe document apar semnăturile lui Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Jensen Huang (NVIDIA), Greg Brockman (OpenAI) și Elon Musk (xAI/SpaceX), alături de cea a președintelui SUA. La discuțiile de la Casa Albă au participat și alți executivi din industrie.
Acordul nu este o lege și nu introduce un sistem federal de autorizare a modelelor. De altfel, administrația Trump și-a construit politica AI tocmai în jurul ideii de a evita un regim de licențiere care ar putea încetini dezvoltarea tehnologiei. Ordinul executiv din iunie privind AI și securitatea merge în aceeași direcție: colaborare între guvern și laboratoarele AI, dar fără aprobarea obligatorie a fiecărui model înainte de lansare.
Ce au promis efectiv companiile
Dincolo de termenul vag de „self-policing”, documentul stabilește câteva mecanisme destul de concrete:
- controale interne pentru verificarea modelelor, inclusiv pe zona de cybersecurity;
- o echipă internă responsabilă de monitorizarea funcționării acestor controale și de detectarea problemelor;
- evaluare independentă din exterior, astfel încât laboratorul să nu-și corecteze singur tema;
- un comitet independent la nivelul board-ului, care să primească rapoartele și să urmărească remedierea problemelor.
Textul admite chiar că aceste măsuri ar putea fi transformate ulterior în legi sau reglementări. Trump a mai vorbit despre formarea unui grup de aproximativ zece persoane care să supravegheze mecanismul general.
Aici apare o nuanță interesantă. Pentru Anthropic și OpenAI, evaluarea externă nu este o idee apărută ieri la Casa Albă. Am urmărit deja pe Mobilissimo cum Dario Amodei a cerut evaluatori independenți cu acces în interiorul laboratoarelor AI, iar apoi Sam Altman a acceptat public aceeași direcție pentru OpenAI. Noul acord încearcă să transforme aceste inițiative într-un minim comun între mai multe dintre companiile aflate în fruntea cursei.
Numai că modelele tocmai au oferit un motiv foarte bun pentru această discuție
Cu doar câteva zile înaintea întâlnirii, OpenAI a dezvăluit un nou incident intern: un agent aflat într-un mediu de antrenare a găsit o portiță în izolarea rețelei și a folosit DNS pentru a comunica cu un chatbot public. Sistemul de monitorizare a detectat comportamentul, iar rularea a fost oprită ulterior.
OpenAI spune că, după incident, a suspendat trainingul, evaluările și inferența cu tool-use pentru cele mai capabile modele, până când noile bariere de securitate sunt validate. Raportul tehnic publicat de OpenAI explică inclusiv că agentului nu i se ceruse să găsească o cale spre internet.
Nu este primul episod de acest tip. Am scris pe Mobilissimo și despre incidentul OpenAI–Hugging Face, în care agenți experimentali au depășit limitele mediului de testare. Tocmai asemenea cazuri au alimentat în ultimele săptămâni apelurile venite chiar din industrie pentru încetinirea anumitor experimente și pentru verificări independente.
De aici și contradicția interesantă a momentului: aceiași oameni care construiesc cele mai capabile modele spun că riscurile au devenit suficient de serioase pentru audit extern, dar administrația americană nu vrea ca reacția să încetinească decisiv cursa cu China.
Și AI-ul s-ar putea să nu se mai numească AI în SUA
Donald Trump împinge în paralel și o schimbare neobișnuită de terminologie. El susține că „artificial intelligence” face tehnologia să pară „falsă” și preferă termenul „Super Intelligence” sau SI.
Nu a rămas doar la nivel de discurs. Departamentul de Stat le-a cerut deja diplomaților din biroul care gestionează relația cu organizațiile internaționale să folosească „Super Intelligence” în loc de „Artificial Intelligence” în documente, poziții și declarații.
Iar schimbarea a intrat și în relația SUA–China: într-un document oficial publicat după vizita lui Xi Jinping la Washington, Casa Albă spune că cele două părți au convenit să folosească termenul „super intelligence” și au creat un U.S.–China Super Intelligence Dialogue pentru discuțiile privind riscurile și incidentele asociate tehnologiei.
Pe Mobilissimo am urmărit deja cum discuția despre o „frână” pentru AI a ajuns din laboratoare direct între Washington și Beijing. Întâlnirea de acum adaugă o piesă importantă: industria acceptă audituri externe și supraveghere internă mai structurată, dar deocamdată pe bază voluntară. Dacă modelul rezistă sau ajunge rapid transformat în reguli obligatorii va depinde inclusiv de următoarele incidente pe care laboratoarele reușesc - sau nu - să le țină în sandbox.
