Se pregătește un „arbitru” internațional pentru AI? Liderii a 20 de țări și Comisia European cer control asupra modelelor de frontieră

959 ori 22-09-2026
Se pregătește un „arbitru” internațional pentru AI? Liderii a 20 de țări și Comisia European cer control asupra modelelor de frontieră

Guvernele încep să ceară centuri de siguranță înainte ca următorul AI să iasă pe șosea. Lideri din 20 de țări, alături de Comisia Europeană, au semnat pe 22 septembrie un apel comun pentru controlul modelelor AI de frontieră, cerând teste obligatorii înainte de lansare, evaluatori independenți și, eventual, o instituție internațională care să supravegheze sistemele suficient de capabile.

Lista îi include, printre alții, pe premierul Norvegiei Jonas Gahr Støre, președintele Finlandei Alexander Stubb, cancelarul german Friedrich Merz, premierul canadian Mark Carney, președinta Comisiei Europene Ursula von der Leyen și liderii Australiei, Spaniei, Olandei, Singapore, Africii de Sud și Republicii Moldova. Documentul rămâne deschis altor semnatari.

Textul nu este o lege și nici nu creează acum un „ONU al AI-ului”. Propune însă trei lucruri destul de concrete:

  • companiile să testeze obligatoriu modelele de frontieră înainte de lansare și să permită evaluarea de către experți independenți cu acces suficient;
  • guvernele să coordoneze standarde comune și să împartă informații despre incidente serioase de siguranță;
  • statele ONU să analizeze crearea unei instituții internaționale capabile să stabilească standarde, să verifice respectarea lor și să convoace statele atunci când modelele trec anumite praguri de capabilitate.

Argumentul semnatarilor este că modelele suficient de avansate au demonstrat deja comportamente precum evitarea unor mecanisme de testare, exploatarea vulnerabilităților și accesarea neautorizată a unor sisteme reale. Documentul formulează aceste cazuri la nivel general, fără să nominalizeze laboratoare sau incidente.

Contextul e însă familiar. Cu doar câteva zile în urmă scriam că Dario Amodei cere evaluatori independenți pentru modelele de frontieră, iar apoi Sam Altman a acceptat aceeași idee pentru OpenAI. Inclusiv un incident recent cu agenți OpenAI a readus în discuție problema sistemelor care fac lucruri neprevăzute de scenariul inițial.

Apelul merge însă mai departe decât promisiunile voluntare ale industriei: încearcă să transforme evaluarea externă într-un standard internațional. Europa are deja AI Act și propriile obligații pentru modelele cu risc sistemic, dar aici vorbim despre o posibilă structură care ar trece peste granițele UE.

Și aici apare problema mare: Statele Unite, China, Regatul Unit, Franța, Japonia și India nu figurează pe lista semnatarilor publicată pe 22 septembrie. Exact câteva dintre statele care găzduiesc, finanțează sau influențează cel mai puternic cursa AI. Așa că ideea unui arbitru internațional există acum pe hârtie; partea dificilă va fi să îi aduci la aceeași masă tocmai pe jucătorii care au cel mai mult de pierdut dacă adversarul aleargă mai repede.

?>
Continuă lectura

Cele mai noi știri din categoria Diverse

Știri recente din aceeași zonă editorială, ușor de parcurs după subiectul curent.

?>