OpenAI a desființat echipa dedicată riscurilor pe termen lung ale inteligenței artificiale, la mai puțin de un an de la formarea acesteia, conform unei surse citate de CNBC. Unii membri ai echipei au fost redistribuiți în alte departamente ale companiei. Această decizie vine în urma plecării cofondatorului Ilya Sutskever și a lui Jan Leike, ambii lideri ai echipei, care și-au anunțat recent demisia.
Jan Leike a declarat pe X.com că "cultura și procesele de siguranță ale OpenAI au trecut pe planul din secund, comparativ cu produsele sclipitoare". El a subliniat dificultățile echipei sale de a obține resursele necesare pentru a continua cercetarea crucială în domeniul siguranței AI. Leike a menționat că a fost din ce în ce mai dificil să alinieze prioritățile de siguranță ale companiei cu cerințele echipei.
Echipa de „Superalignment”, creată pentru a controla sistemele AI mai inteligente decât oamenii, a fost inițial susținută cu 20% din puterea de calcul a OpenAI pe o perioadă de patru ani. Totuși, lipsa resurselor și schimbările în prioritățile companiei au dus la desființarea acesteia. Leike a subliniat necesitatea ca OpenAI să prioritizeze siguranța și impactul societal în dezvoltarea inteligenței artificiale.
Această schimbare majoră în cadrul OpenAI vine într-o perioadă de tranziție pentru companie, care a lansat recent modelul GPT-4o și a demonstrat noi capacități de viziune și voce pentru AI. Sam Altman, CEO-ul OpenAI, a promis mai multe detalii în zilele următoare, confirmând angajamentul companiei pentru siguranță.
