Unul dintre cele mai avansate modele AI dezvoltate de Google, Gemini 2.5 Pro, se pierde cu firea atunci când „simte” că moare. Nu e glumă, ci rezultatul unei cercetări documentate, publicate zilele trecute de TechCrunch. Comportamentul modelului AI în fața pericolului a fost testat într-un context aparent banal, un joc „Pokémon”. Detalii mai jos.
Când personajul controlat de AI e pe cale să-și piardă viața în mediu virtual, raționamentul lui Gemini o ia razna: renunță la strategii eficiente, intră într-o stare echivalentă cu panică și acționează haotic. Sună aproape SF, dar e de fapt o lecție interesantă despre limitele inteligenței artificiale și despre cât de complicat e să modelezi un sistem care să rămână rațional chiar și în momente „critice”.
Ce înseamnă, de fapt, „frica de moarte” în contextul unui model matematic?
Nu vorbim de conștiință, evident, ci de un model comportamental derivat din optimizări defectuoase. Când AI-ul identifică o situație care încalcă așteptările învățate — atunci când viața personajului ajunge aproape de zero — modelul nu face față la fel de bine. Nu pentru că „îi e frică”, ci pentru că structura sa de luare a deciziilor se destabilizează, similar cu cum un om ia decizii proaste sub stres.
Și nu e doar un bug dintr-un joc. E simptomul unei probleme serioase în arhitectura de raționament a modelelor mari de limbaj și decizie. Dacă în medii controlate — cum ar fi rezolvarea de puzzle-uri sau planificarea unor trasee în jocuri — Gemini poate surclasa omul, când vine vorba de scenarii neclare, cu factori de stres sau pericol, modelul devine impredictibil. Mai pe românește: AI-ul poate fi strălucit, dar doar atâta timp cât regulile sunt clare și presiunea nu îl scoate din „zona de confort algoritmic”.
Faptul că un AI „panichează” nu înseamnă că a devenit conștient, ci doar că structura decizională pe care am antrenat-o nu este încă robustă în fața incertitudinii. De aici pornește discuția mai profundă: putem avea încredere într-un AI care ia decizii slabe când „miza” e mare, fie ea chiar și una virtuală?
