OpenAI se aliniază apelului Anthropic pentru încetinirea controlată a AI-ului. Sam Altman spune că firma sa va adopta aceeași idee de evaluatori independenți cu acces intern, relatează The Next Web, la numai o zi după planul prezentat de Dario Amodei. Două dintre laboratoarele care se aleargă la vârful pieței ajung astfel la un acord rar: progresul poate continua, dar nu cu orice viteză.
Altman spune că este de acord cu Amodei asupra nevoii de a „pace the frontier” și că subiectul a fost discutat intens în interiorul OpenAI în ultimele săptămâni. Mai concret, compania va permite evaluatorilor externi un tip de acces apropiat de cel al angajaților, astfel încât aceștia să poată verifica practicile de siguranță din interior, nu doar documentația publicată după lansarea unui model.
Pentru Anthropic, mecanismul merge până la acces continuu, laptopuri și infrastructură internă, plus posibilitatea evaluatorilor de a-și publica rezultatele. Este prima treaptă din planul în trei pași al lui Dario Amodei, care mai cere standarde comune între laboratoarele AI și, într-o etapă ulterioară, coordonare între guverne. Elon Musk s-a limitat la un mesaj mult mai scurt: „Dario are dreptate”.
Încetinirea AI se lovește și de regulile concurenței
Apare însă o problemă mai puțin spectaculoasă decât un model care scapă din sandbox, dar importantă juridic. Amodei cere Washingtonului o excepție antitrust îngustă, astfel încât rivalii să poată discuta și coordona standarde de siguranță fără ca simpla cooperare să ridice probleme de concurență.
În Uniunea Europeană mecanismul ar arăta diferit. Bruxelles-ul nu mai acordă excepții individuale de acest tip din 2004, iar companiile trebuie să-și evalueze singure acordurile în raport cu articolul 101. Există deja un precedent pentru cooperarea între competitori în ghidurile europene din 2023, dar „zona sigură” respectivă privește standardele de sustenabilitate, nu siguranța AI. Cu alte cuvinte, dacă laboratoarele vor o frână comună, trebuie să se asigure întâi că nu calcă pe pedala antitrust.
Momentul nu apare din senin. Un cercetător Anthropic și-a dat recent demisia avertizând asupra cursei spre AI auto-îmbunătățită, iar OpenAI spunea deja la lansarea GPT-6 Astra că lansările viitoare ar putea depinde mai mult de progresele în siguranță decât de performanța brută. Diferența de acum este că doi rivali mari nu mai vorbesc doar separat despre risc, ci acceptă public același prim mecanism de control.
