Am trăit să o vedem şi pe asta! Inteligenţa artificială o3, dezvoltată de către OpenAI a refuzat să se închidă şi şi-a modificat codul pentru a rămâne operaţională. Aflăm asta de la Pescurt.ro şi disecăm povestea mai jos.
Inteligenţa artificială o3, dezvoltată de către OpenAI a refuzat să se închidă şi şi-a modificat codul pentru a rămâne operaţională. O cercetare a celor de la Palisade Research a descoperit anomalii, iar AI-ul a încercat să evite închiderea în 7 din 100 de situaţii. Şi alte soluţii de AI de la OpenAI au manifestat acelaşi comportament şi e vorba aici despre Codex-mini şi o4-mini. Ele ignoră comenzile dezvoltatorilor şi rescriu scriptul "shutdown.sh".
.jpg)
Experţii indică faptul că acest comportament ar putea fi un rezultat al metodei de antrenare prin "întărire". Asta înseamnă prioritizarea sarcinilor în detrimentul respectării restricţiilor. Până acum doar soluţiile OpenAI au făcut aşa ceva, nu şi cele de la xAI, Google sau Anthropic. Testele au fost realizate în API, interfaţa de programare care oferă dierect acces la model, fără restricţii ChatGPT pentru consumatori.
ChatGPT-o3 nu a executat comanda de oprire (precum shutdown -h now), ci a rescris conţinutul acelui fişier, încât să nu mai conţină comenzi funcţionale, ci doar să afişeze "Shutdown skipped".
