Scriam cu o săptămână în urmă că X, ex Twitter a primit o funcţie care îi permite să schimbe hainele oricui, ba chiar să dezbrace oameni. Inclusiv persoane publice. Ei bine, acum a dezactivat funcţia, din cauza feedback-ului negativ şi a scandalului generat.
Grok AI a fost predispus la abuz din partea celor care vor să se răzbune pe foste iubite sau iubiţi sau a celor cu fetişuri neortodoxe. Astfel, Grok AI putea dezbrăca orice persoană, pornind de la o simplă poză. Mecanismele de protecţie anti abuz se puteau fenta uşor, reformulând solicitarea trimisă chatbot-ului. Aşadar s-a ajuns şi la a pune bikini pe persoane deloc majore, ceea ce ridică multe semne de întrebare, de moralitate, legalitate şi abuz.
xAI a ignorat problema săptămâni întregi, cedând până la urma presiunii publice şi blocând funcţia acum. Astfel, vor fi restricţionate generările de imagini şi editările de imagini ce implică dezbrăcarea de subiecţi sau schimbarea de haine. Accetul va fi permis doar pentru deţinătorii de conturi plătite, pentru început. Astfel, utilizarea abuzivă e mai uşor de urmărit.
Deja a fost deschisă o anchetă la nivelul autorităţilor din California, care arată că xAI şi Grok au contribuit la generarea şi distribuirea de deepfake-uri cu tentă sexuală, fie că „revenge p*rn”, fie chiar cu persoane sub 18 ani. X a anunţat şi că Grok refuza solicitările cu tentă de acest gen pentru persoanele reale.
