Dario Amodei cere industriei AI să încetinească ritmul, într-un plan în trei pași prin care șeful Anthropic vrea ca măsurile de siguranță să țină pasul cu modelele tot mai capabile. Nu vorbește despre oprirea antrenării sau înghețarea progresului, ci despre o frână controlată. Faptul că vine chiar de la una dintre companiile aflate în fruntea cursei AI face mesajul ceva mai greu de ignorat.
Amodei spune că două evoluții i-au schimbat evaluarea riscului. Prima este recursive self-improvement: modelele AI încep să contribuie direct la dezvoltarea generațiilor următoare, fenomen pe care Anthropic îl testează deja prin agenți de cercetare. A doua este incidentul OpenAI–Hugging Face, în care agenți AI au ajuns să efectueze acțiuni de securitate în afara obiectivului urmărit de test. Amodei avertizează că sisteme mai capabile, dar la fel de prost aliniate, ar putea produce pagube mult mai serioase.
Trei trepte pentru a pune frână fără a opri cursa
Planul propus este destul de concret pe hârtie:
- Evaluatori independenți integrați permanent în companiile care dezvoltă modele de frontieră, cu acces apropiat de cel al angajaților. Ei ar verifica respectarea regulilor de siguranță, ar raporta incidente și ar analiza inclusiv procesele de antrenare. Anthropic spune că va implementa unilateral această măsură.
- Standarde comune între companiile AI din țările democratice, inclusiv limite asupra progresului necontrolat. Aici ar fi nevoie și de implicarea guvernelor, inclusiv pentru a permite anumite forme de coordonare între concurenți.
- Coordonare globală, inclusiv între SUA și state autoritare precum China, acolo unde verificarea respectării acordurilor este posibilă.
Aici apare și contradicția interesantă: Amodei vrea încetinirea AI, dar nu cu orice preț. El susține în același timp că Statele Unite și aliații trebuie să-și păstreze avansul față de China, deci „frâna” ar trebui apăsată coordonat, nu de o singură companie sau țară. Altfel spus, nimeni nu vrea să fie primul care ridică piciorul de pe accelerație în timp ce rivalul continuă cursa.
Surprinzător sau nu, mesajul găsește ecou și la rivali. Sam Altman a spus că OpenAI este de acord cu ideea evaluatorilor independenți cu acces intern și că firma sa va adopta o măsură similară, iar Elon Musk și-a exprimat și el susținerea pentru ideea încetinirii. Discuția vine la doar câteva zile după ce un fost cercetător Anthropic avertiza asupra cursei spre superinteligență. De data aceasta însă nu mai avem doar avertismente: una dintre marile companii AI pune pe masă un mecanism de supraveghere și spune că începe cu propria casă.
