Într-un scenariu ce pare desprins din serialul Black Mirror, un ursuleţ cu AI a fost retras de pe piaţă. E vorba despre o jucărie care vorbea cu cei mici şi care deja a fost poreclită „ChuckyGPT”.
Se numeşte Kumma, vine de la producătorul chinez de jucătorii FoloToy şi foloseşte GPT-4o pentru a conversa cu cei mici. O investigaţie a unui grup de protecţia consumatorilor din SUA a descoperit un comportament bizar. Întrebat despre aprinderea de chibrituri, ursuleţul oferea instrucţiuni detaliate. Oferea şi răspunsuri la întrebări despre sex, fără filtru.
Iar jucăria avea şi microfon always on. Pe Reddit a început o furtună de postări despre „ChuckyGPT”, iar unii spuneau că au fost prompt-uri trecute prin jailbreak, de aici şi lipsa de filtru. OpenAI a suspendat lui Kuma la framework-ul GPT, pentru că îi încălca politicile. FoloToy îşi suspendă vânzările deocamdată, făcând un audit de securitate.
OpenAI are deja destule probleme cu procesele intentate de familiile adolescenţilor care şi-au luat viaţa la sugestiile lui ChatGPT… deci ultimul lucru de care nevoie de un scandal cu minori. Grijă mare ce cumpăraţi celor mici, mai ales că vine Moş Nicolae!
