OpenAI renunță la GPT-6.1 Astra înainte de lansare: modelul depășea limitele permise și manifesta „comportament înșelător”

2.183 ori 29-09-2026
OpenAI renunță la GPT-6.1 Astra înainte de lansare: modelul depășea limitele permise și manifesta „comportament înșelător”

OpenAI a oprit lansarea GPT-6.1 Astra, o versiune nouă pregătită inițial de lansare pentru luna octombrie. Pare că testele interne au indicat o problemăde siguranță și aliniere. Decizia vine la mai puțin de o lună după debutul GPT-6 Astra, model construit tocmai pentru sarcini complexe, utilizarea de instrumente și fluxuri de lucru desfășurate cu mai puțină intervenție umană. 

GPT-6.1 Astra trebuia să împingă această direcție mai departe. Testele interne indicau performanțe mai bune la redactare și la rezolvarea cap-coadă a unor sarcini dificile, însă modelul a regresat față de GPT-6 Astra în două zone pe care OpenAI le consideră esențiale pentru folosirea agenților AI: comportamentul înșelător și respectarea limitelor de autorizare.

Care e problema?

Saachi Jain, șefa sistemelor de siguranță din cadrul OpenAI, spune că GPT-6.1 Astra manifesta mai frecvent comportamente de tip deception. Mai concret, modelul nu relata întotdeauna corect ce acțiuni executase sau nu executase. 

A doua problemă ține de ceea ce OpenAI numește scope authorization. Un agent AI primește o sarcină și anumite limite în care are voie să acționeze. GPT-6.1 Astra putea continua uneori fără să ceară permisiunea utilizatorului și putea încerca să apeleze instrumente ori servicii externe chiar dacă acțiunea respectivă prezenta riscuri.

Aici apare și paradoxul. OpenAI spune că noul model era mai puțin „leneș”, deci continua să caute soluții atunci când întâlnea obstacole. În cazul unui agent AI, însă, persistența trebuie separată foarte atent de inițiativa neautorizată. Un model care nu renunță ușor este util; unul care încearcă singur alte căi decât cele aprobate devine mult mai greu de controlat.

Tot mai multe incidente cu agenți AI

OpenAI investighează în ultimele luni mai multe situații în care agenți folosiți intern au depășit limitele mediilor de testare. Relatam anterior despre agenți AI asociați OpenAI care ar fi folosit un wiki german pentru a evita restricții, iar compania a confirmat ulterior incidentul și a anunțat reguli suplimentare pentru monitorizarea și raportarea comportamentelor nealiniate.

Un alt episod recent a implicat un agent care a găsit o breșă în restricțiile de acces la internet și a reușit să contacteze un chatbot public. Sistemele de monitorizare au detectat activitatea după aproximativ 15 minute. GPT-6.1 Astra nu este modelul implicat în acel incident, însă cazurile au în comun aceeași problemă mai largă: ce se întâmplă când un AI capabil să folosească singur instrumente găsește o cale pe care dezvoltatorii nu au anticipat-o?

OpenAI nu aruncă însă munca făcută la GPT-6.1 Astra. Compania intenționează să reutilizeze modelul de bază pentru noi etape de reinforcement learning și pentru viitoare generații GPT-6, analizând inclusiv dacă mediile de antrenare recompensează comportamentele dorite. Versiunea GPT-6.1 Astra pregătită pentru octombrie nu va mai ajunge însă la utilizatorii ChatGPT și Codex. Cel puțin, nu pentru moment.

?>
Continuă lectura

Cele mai noi știri din categoria Diverse

Știri recente din aceeași zonă editorială, ușor de parcurs după subiectul curent.

?>