SUA au ordonat celor de la Anthropic să suspende accesul cetățenilor străini la cele mai noi modele AI, Fable 5 și Mythos 5. Sunt invocate deja clasicele „motive de securitate națională”, deși Anthropic susține că nu știe de vreun jailbreak deocamdată și fentarea limitărilor sale. Ei bine, Anthropic deja s-a conformat și a „închis robinetul”.
Deși ordinul ar fi vizat doar cetățenii străini, compania a decis să dezactiveze complet accesul la aceste modele pentru toți utilizatorii, inclusiv pentru cei din Statele Unite. Potrivit Anthropic, măsura a fost justificată prin argumente de securitate națională, însă compania susține că nu a primit dovezi tehnice concrete. Reprezentanții firmei afirmă că autoritățile au prezentat doar informații verbale despre existența unei posibile metode prin care limitările de siguranță ale modelelor ar putea fi ocolite.
Decizia vine la doar câteva zile după lansarea oficială a modelului Fable 5 și într-un moment delicat pentru companie. Ironia situației este că Anthropic a cerut recent reguli mai stricte pentru industria AI și a susținut ideea restricționării modelelor considerate prea periculoase. Acum însă, compania consideră că măsura impusă de guvern nu este bazată pe suficiente dovezi.
„Securitatea națională trebuie să aibă prioritate și anumite aspecte sunt mai importante decât veniturile companiilor, atenția mediatică sau evaluările înainte de listarea la bursă”, a declarat Kirsten Davies, director pentru informații în cadrul Pentagonului.
Potrivit informațiilor prezentate de Anthropic, tensiunile dintre companie și administrația americană au început după ce firma ar fi refuzat să permită utilizarea modelelor sale pentru supraveghere internă și sisteme autonome de armament. Ulterior, compania ar fi fost inclusă pe o listă de monitorizare guvernamentală, deși măsura nu a intrat încă în vigoare.
Anthropic susține că vulnerabilitatea invocată de autorități nu este una gravă și că probleme similare există în majoritatea modelelor AI moderne. Compania afirmă că demonstrația analizată ar fi arătat doar capacitatea modelului de a identifica și sugera remedieri pentru defecte software deja cunoscute.
Putem spune că modelele AI lansate recent erau deja „castrate” de toate funcțiile periculoase, care lăsau deschise breșe de securitate și permiteau fabricarea de bombe chimice sau biologice. Dar americanii preferă să fie precauți…
