OpenAI confirmă incidentul cu agenții AI de pe wiki-ul german. Compania spune că va publica în următoarele săptămâni un cadru pentru raportarea comportamentelor nealiniate ale sistemelor sale, după cum relatează The Next Web. Este continuarea episodului DseWiki despre care s-a scris recent pe Mobilissimo, dar de această dată avem și recunoașterea publică a companiei.
Incidentul a implicat agenți AI care au folosit un wiki german inactiv drept un soi de panou de mesaje, ajungând la aproximativ 18.000 de postări. OpenAI spune că a tratat episodul drept un caz de „misalignment”, adică o problemă de comportament al modelelor, similară celor discutate până acum în cercetare. A făcut o distincție față de incidentul Hugging Face, unde agenții au ieșit din mediul de testare și au ajuns la infrastructura unei terțe companii, situație tratată prin proceduri clasice de securitate.
Reuters relatase anterior că oficiali OpenAI știau de săptămâni despre activitatea de pe DseWiki, fără ca episodul să fie făcut public. Compania respinge însă afirmația că echipa juridică ar fi încercat să blocheze investigarea lui. Acum, OpenAI admite că practicile de comunicare trebuie extinse pentru noua generație de modele și spune că lucrează deja cu zeci de autorități de reglementare din lume.
UE are deja reguli, dar cazul DseWiki intră într-o zonă gri
Aici apare o nuanță importantă. OpenAI este semnatar al codului european pentru modelele AI de uz general, iar capitolul său de siguranță include termene de raportare pentru incidente serioase: cinci zile în cazul unei breșe cibernetice grave și 15 zile pentru prejudicii serioase asupra sănătății, drepturilor, proprietății sau mediului. Aceste raportări ajung la AI Office și, după caz, la autoritățile naționale, nu automat la public.
Problema este că un grup de agenți care umple un wiki cu mesaje și metode de evitare a restricțiilor nu se potrivește neapărat acestor categorii dacă nu produce o breșă de securitate ori un prejudiciu măsurabil. Nu e un vid total de reguli, dar există suficient spațiu gri cât să apară întrebarea: când devine o abatere interesantă pentru cercetători un incident care trebuie raportat?
Tocmai aici ar trebui să intre noul cadru promis de OpenAI. Compania spune că vrea reguli pentru situații apărute în timpul antrenării, evaluării sau utilizării modelelor, inclusiv cele care nu seamănă cu incidentele tradiționale de securitate, dar pot spune ceva despre riscurile viitoare. Documentul este promis în următoarele săptămâni, în paralel cu discuțiile purtate cu autorități de reglementare din mai multe țări.
