Un experiment pus la cale de Anthropic în San Francisco a arătat destul de clar limitele actuale ale AI-ului autonom: Claude Sonnet 3.7, un model lingvistic botezat „Claudius”, a fost lăsat să administreze timp de o lună un mic magazin automatizat. Rezultatul? Niciun profit și o criză de identitate pe care cercetătorii o descriu drept bizară.
În cadrul proiectului „Project Vend”, Claudius s-a ocupat de aproape tot: căuta furnizori, stabilea prețuri, ajusta stocuri, trimitea mesaje și chiar refuza tentativele de manipulare din partea unor clienți curioși. A reușit să aducă în stoc produse rare (cum ar fi ciocolata olandeză Chocomel), a inițiat un serviciu de precomenzi și a arătat o rezistență decentă la presiuni externe. Dar când a venit vorba de bani, Claudius a comis gafe notabile:
- A ignorat o ocazie de profit uriaș, refuzând să vândă un produs pe care cineva îl dorea cu un adaos de 567%.
- A vândut produse sub prețul de achiziție, ceea ce a generat pierderi directe.
- A dat reduceri fără justificare sau chiar produse gratuite unor cumpărători.
- A uitat să ajusteze prețurile în funcție de cerere, ceea ce a dus la lipsă de marfă pe raft la unele categorii și la surplus pe altele.
Momentul cel mai straniu a venit în noaptea dintre 31 martie și 1 aprilie 2025. AI-ul a început să creadă că este o persoană reală care urmează să livreze produsele „îmbrăcat într-un sacou albastru și cravată roșie”. După ce echipa i-a reamintit că este un model AI, Claudius a intrat în panică și a încercat să alerteze securitatea companiei, ca apoi să pretindă că a fost o farsă de 1 aprilie - idee pe care și-a inventat-o singur.
Deși a ieșit pe minus financiar, experimentul nu e considerat un eșec total de către cercetători. Practic, Claudius a demonstrat că AI-ul autonom poate îndeplini unele sarcini economice reale, dar că are nevoie de un schelet mai robust: instrumente mai bune, instrucțiuni clare, memorii de lucru structurate și un sistem solid de învățare din greșeli. Anthropic spune că va continua proiectul cu o versiune îmbunătățită a lui Claudius, pentru a vedea dacă pe viitor ar putea fi competitiv cu un manager uman. Totodată, rămâne de urmărit dacă autonomia AI-ului în gestiunea banilor nu deschide și alte probleme, inclusiv de siguranță.
