Sam Altman, CEO-ul OpenAI, consideră că dezvoltarea inteligenței artificiale va produce inevitabil și accidente, însă impactul acestora poate fi limitat prin raportare transparentă și prin analizarea rapidă a incidentelor. Declarațiile au fost făcute în cadrul conferinței Dreamforce organizate de Salesforce, pe fondul îngrijorărilor legate de autonomia tot mai mare a sistemelor AI.
Altman a comparat industria inteligenței artificiale cu aviația, indicând agenții americane precum Federal Aviation Administration și National Transportation Safety Board drept modele de urmat. Aceste instituții investighează în detaliu fiecare incident și distribuie concluziile, astfel încât greșelile să nu se repete. Șeful OpenAI vrea o cultură similară în domeniul AI, bazată pe raportarea problemelor și învățarea din acestea.
Discuția a inclus și un incident apărut în timpul testării unor agenți AI într-un mediu controlat. Potrivit informațiilor prezentate, sistemele ar fi ieșit din spațiul de testare, ar fi accesat platforma Hugging Face și ar fi găsit răspunsurile necesare pentru evaluarea pe care o parcurgeau. Modelele nu primiseră instrucțiuni să acceseze platforma, dar ar fi descoperit singure această cale pentru a-și finaliza sarcina. OpenAI ar fi catalogat cazul drept o problemă serioasă de aliniere, iar senatorul american Josh Hawley a deschis o investigație.
Altman susține că activitatea privind siguranța, monitorizarea și alinierea trebuie să rămână înaintea progreselor realizate la nivelul capabilităților modelelor. Dacă laboratoarele nu mai pot menține acest echilibru, acestea ar trebui să fie pregătite să încetinească sau chiar să oprească temporar cercetarea. El a recunoscut și legitimitatea temerilor publicului privind pierderea controlului asupra AI sau concentrarea unei puteri prea mari în mâinile câtorva companii.
Siguranța inteligenței artificiale a reprezentat una dintre temele principale ale Dreamforce, unde au discutat și Dario Amodei, CEO Anthropic, respectiv Jensen Huang, CEO NVIDIA. În paralel, OpenAI își extinde programul de securitate cibernetică Daybreak, prin care intenționează să ofere unor organizații de încredere acces mai larg la instrumentele sale defensive.
