OpenAI a luat serios în calcul să cheme poliţia, după ce un atacator cu armă din Canada avea nişte prompt-uri suspecte în ChatGPT. Se discută de ceva vreme despre etică şi moralitate, dar şi legalitatea de a aduce autorităţile pe fir atunci când un utilizator de GPT dă prompt-uri suspecte.
Canada se confruntă cu un moment grav: o tânără de 18 ani a omorât 8 persoane, într-un atac armat. În prealabil făcuse câteva căutări pe GPT, care au alarmat angajaţii OpenAI. Chat-urile lui Jesse Van Rootsellar aveau de-a face cu violenţa armată şi au aprins "beculeţe roşii" interne în companie. Contul fusese banat în iunie 2025. Problema e că nu au fost notificate autorităţile. De altfel s-a şi discutat intern, în companie dacă să se facă asta sau nu.
Până la urmă a picat inițiativa şi iată unde suntem acum. Jesse mai dăduse semne de îngrijorare: în jocul Roblox a creat un univers în care simulase un atac cu arme într-un mall. Făcea şi postări cu arme pe Reddit. Poliţia locală din Canada fusese chemată la locuinţa sa pentru piromanie sub influenţa narcoticelor.
Şi aici intervine dilema morală, etica: să anunţi poliţia când un utilizator de platformă tech, de orice fel dă dovezi de comportament antisocial? Personal, eu aş anunţa părinţii întâi şi l-aş duce pe respectivul la terapie sau aş discuta cu el. Discuţia e foarte, foarte grea, mai ales că vorbim despre 8 victime acum şi despre un GPT care uneori încurajează gândurile suicidale la tineri, cum s-a mai văzut.
