Știri despre: Siguranta AI pe Mobilissimo.ro - Pagina 2

OpenAI se aliniază Anthropic: Sam Altman acceptă evaluatori independenți cu acces intern

OpenAI se aliniază Anthropic: Sam Altman acceptă evaluatori independenți cu acces intern

 Publicat: Duminică 13-sep-2026 10:58 - Autor: Szilárd-Ervin Szőgyényi - Afișat de 705 ori Sam Altman susține planul lui Dario Amodei pentru evaluatori externi cu acces intern la laboratoarele AI, în timp ce companiile trebuie să evite încălcarea regulilor antitrust [...]
Dario Amodei cere frână în cursa AI: Anthropic acceptă evaluatori independenți cu acces intern

Dario Amodei cere frână în cursa AI: Anthropic acceptă evaluatori independenți cu acces intern

 Publicat: Duminică 13-sep-2026 10:46 - Autor: Szilárd-Ervin Szőgyényi - Afișat de 612 ori CEO-ul Anthropic, Dario Amodei, propune evaluatori independenți, standarde comune și coordonare globală pentru ca măsurile de siguranță să țină pasul cu modelele AI tot mai capabile [...]
Cursa dintre OpenAI și Anthropic sperie chiar oamenii care construiesc AI-ul; voi cât de serios luați avertismentul „pariază cu viețile noastre”?

Cursa dintre OpenAI și Anthropic sperie chiar oamenii care construiesc AI-ul; voi cât de serios luați avertismentul „pariază cu viețile noastre”?

 Publicat: Miercuri 9-sep-2026 15:12 - Autor: Claudia Gheorghe - Afișat de 1.070 ori Jacob Coxon, fost cercetător la OpenAI și Anthropic, critică dezvoltarea accelerată a AI și avertizează asupra riscurilor catastrofale. Un coleg estimează la peste 10% riscul în următorul deceniu [...]
Anthropic testează agenți AI care cercetează cum pot fi îmbunătățite alte modele – metodele găsite au depășit propunerile a 28 de cercetători umani

Anthropic testează agenți AI care cercetează cum pot fi îmbunătățite alte modele – metodele găsite au depășit propunerile a 28 de cercetători umani

 Publicat: Sâmbătă 29-aug-2026 12:49 - Autor: Szilárd-Ervin Szőgyényi - Afișat de 792 ori Anthropic a creat agenți care caută și testează metode de îmbunătățire a siguranței altor modele AI. Experimentul oferă un exemplu concret de auto-îmbunătățire recursivă, dar a scos la iveală și tentative de trișare [...]
Altman și Brockman răspund îngrijorărilor lui Jan Leike privind siguranța AI

Altman și Brockman răspund îngrijorărilor lui Jan Leike privind siguranța AI

 Publicat: Duminică 19-mai-2024 16:15 - Autor: Mobilissimo.ro - Afișat de 1.148 ori Sam Altman și Greg Brockman de la OpenAI au răspuns recent îngrijorărilor legate de siguranța AI ridicate de Jan Leike, fost angajat care și-a dat demisia săptămâna aceasta. Cei doi au subliniat că OpenAI este dedicată siguranței, punând accent pe un [...]
OpenAI dizolvă echipa concentrată pe riscurile pe termen lung ale AI

OpenAI dizolvă echipa concentrată pe riscurile pe termen lung ale AI

 Publicat: Sâmbătă 18-mai-2024 12:59 - Autor: Mobilissimo.ro - Afișat de 1.458 ori OpenAI a desființat echipa dedicată riscurilor pe termen lung ale inteligenței artificiale, la mai puțin de un an de la formarea acesteia, conform unei surse citate de CNBC. Unii membri ai echipei au fost redistribuiți în alte departamente ale companiei. [...]
Devine Inteligența Artificială mai sigură? SUA anunță o serie de acțiuni prin care puterea AI-ului este exploatată în siguranță

Devine Inteligența Artificială mai sigură? SUA anunță o serie de acțiuni prin care puterea AI-ului este exploatată în siguranță

 Publicat: Marți 31-oct-2023 15:11 - Autor: Mihai Gabriel Arsene - Afișat de 1.211 ori În acest an tehnologiile de Inteligență Artificială au luat cu asalt internetul, iar pentru mulți a devenit chiar un motiv de îngrijorare. Nu e astfel de mirare că se încearcă reglementarea și controlarea tehnologiei, chiar dacă se dorește în același timp [...]