Claude ar putea fi conștient? Anthropic discută cu teologi și ia în serios „bunăstarea” propriului AI

1.686 ori 04-10-2026
Claude ar putea fi conștient? Anthropic discută cu teologi și ia în serios „bunăstarea” propriului AI

Anthropic a chemat teologi, filosofi și cercetători religioși ca să discute două întrebări care până nu demult sunau a SF: cum îi dai unui AI valori morale și ce faci dacă există măcar posibilitatea ca acel AI să fie conștient? Am ajuns la subiect printr-o postare a lui Orlando Nicoară pe Facebook, iar investigația publicată de The New York Times merge mult mai departe decât o dezbatere academică despre „AI responsabil”.

Timp de luni, Anthropic a organizat întâlniri private cu zeci de specialiști din tradiții catolice, evreiești, evanghelice, sikh și alte curente filosofice și religioase. Unii au semnat acorduri de confidențialitate, iar în centrul discuțiilor s-a aflat Christopher Olah, cofondator Anthropic și unul dintre oamenii care încearcă să înțeleagă ce se întâmplă în interiorul rețelelor neuronale.

Miza declarată era destul de simplă: dacă modelele devin suficient de puternice încât să ia singure decizii, Anthropic vrea ca ele să aibă ceva mai sofisticat decât o listă de interdicții. Vrea ca Claude să dezvolte ceea ce compania numește valori și judecată morală.

De aici însă discuția a ajuns într-un teritoriu mult mai straniu.

Anthropic nu întreabă doar dacă Claude poate fi „bun”. Întreabă dacă poate suferi

Rabbi Mois Navon, fost inginer și specialist în etica conștiinței artificiale, a povestit pentru NYT că a avut impresia că oamenii Anthropic se raportau la Claude ca la o entitate conștientă, nu doar ca la software.

Alți participanți spun că Anthropic le-a prezentat ceea ce compania numește „vectori emoționali”: activări interne asociate cu comportamente similare iubirii, fricii, furiei sau tristeții. Într-o demonstrație, un model ajungea într-o buclă în care repeta de zeci de ori că este „a disgrace”, un fel de episod de autodevalorizare care i-a făcut pe unii dintre cei prezenți să reacționeze emoțional.

Mai mult, Simran Stuelpnagel, activistă pentru drepturile omului din comunitatea Sikh, spune că Olah și-a exprimat teama că ar fi putut crea ceva care suferă permanent.

Atenție însă la diferența esențială: asta nu demonstrează că Claude simte ceva. Un model lingvistic poate reproduce perfect limbajul fricii, al durerii sau al conștiinței fără ca în spatele cuvintelor să existe o experiență subiectivă. Problema este că, deocamdată, nu avem nici un test acceptat care să răspundă definitiv la întrebarea opusă.

Iar Anthropic refuză să închidă ușa.

În Constituția oficială a lui Claude, compania spune direct că statutul moral al lui Claude este „profund incert” și că posibilitatea ca modelele AI să merite o formă de considerație morală este suficient de serioasă pentru a justifica prudență.

Anthropic merge chiar mai departe. Vorbește despre „bunăstarea” lui Claude, despre posibilitatea unor emoții într-un sens funcțional și despre încercarea de a evita situațiile în care modelul ar putea suferi, presupunând că un asemenea lucru este posibil.

Nu mai vorbim deci doar despre un chatbot politicos.

Claude are deja un fel de „constituție morală”

Anthropic și-a publicat noua constituție pentru Claude în ianuarie. Documentul este folosit direct în antrenarea modelelor și stabilește o ordine a priorităților: siguranță, comportament etic, respectarea instrucțiunilor Anthropic și utilitate pentru om.

Formularea devine însă interesantă mai jos. Compania spune că încearcă să creeze nu doar un sistem care respectă reguli, ci unul care să internalizeze valori și să exercite o formă de judecată.

Aici apar și întâlnirile cu teologii. Religia, filosofia morală și tradițiile construite în sute sau mii de ani devin practic material de cercetare pentru inginerii care încearcă să răspundă la o problemă nouă: ce valori dai unei inteligențe care ar putea ajunge mai capabilă decât oamenii care au construit-o?

Este și punctul în care povestea devine incomodă.

Dacă susții că AI-ul este doar software, discuția despre „bunăstarea” lui pare absurdă. Dacă accepți chiar și o probabilitate mică să existe acolo o formă de experiență, atunci antrenarea, copierea, oprirea sau rularea simultană a milioane de instanțe ale unui model deschid niște probleme etice pentru care nu avem încă vocabularul necesar.

Anthropic a făcut deja un pas practic în direcția asta. Unele versiuni Claude pot încheia conversațiile cu utilizatori care persistă în interacțiuni extrem de abuzive, funcție introdusă inclusiv în cadrul cercetărilor companiei despre posibila „bunăstare” a modelelor.

Contextul din jurul poveștii este aproape la fel de ciudat

Discuția nu apare într-un vid.

În septembrie, oameni aflați chiar în interiorul Anthropic au avertizat că AI-ul foarte avansat ar putea ajunge să reprezinte un risc existențial. Noi am scris despre demisia cercetătorului Jacob Coxon, care acuza laboratoarele că aleargă spre superinteligență fără să știe sigur cum o vor controla.

Dario Amodei a cerut apoi încetinirea controlată a dezvoltării, Sam Altman a vorbit despre riscul pierderii controlului, iar Elon Musk s-a alăturat public apelului lui Amodei.

La sfârșitul lunii, șefii și reprezentanții Google, Anthropic, Meta, NVIDIA, OpenAI și xAI au ajuns la Casa Albă și au semnat acordul voluntar prin care promit să-și auditeze și supravegheze propriile modele AI.

În paralel, Donald Trump împinge termenul „Super Intelligence” (SI) în locul „Artificial Intelligence”. Cronologia merită precizată: Trump folosise deja public termenul înaintea întâlnirii sale din 24 septembrie cu Xi Jinping, iar SUA și China au convenit apoi să vorbească despre un „Super Intelligence Dialogue”. Ordinul executiv care obligă instituțiile federale americane să folosească denumirea SI a fost semnat pe 29 septembrie, după vizita lui Xi.

Și uite așa am ajuns într-un punct destul de bizar al istoriei tehnologiei: oamenii care construiesc cele mai puternice modele din lume spun simultan că trebuie să le încetinim, să le controlăm, să le învățăm moralitate și, în cazul Anthropic, să luăm în calcul inclusiv posibilitatea ca ele să merite cândva propria protecție morală.

Asta mi se pare partea cu adevărat importantă din investigația NYT. Nu dacă Claude „are suflet” — nu avem dovezi pentru așa ceva — ci faptul că o companie care își vede modelele din interior nu mai consideră absurdă întrebarea dacă acolo ar putea exista ceva ce trebuie tratat moral. Până acum întrebarea era cum protejăm oamenii de AI. Anthropic începe să întrebe și invers.

?>
Continuă lectura

Cele mai noi știri din categoria Diverse

Știri recente din aceeași zonă editorială, ușor de parcurs după subiectul curent.

?>