La mijloc de luna august 2024, compania de AI a lui Elon Musk, xAI a lansat doi chatboti şi deja au apărut problemele. E vorba despre Grok-2 şi Grok-2 mini, care vin la pachet cu funcţii de generare de imagini... controversate. Avem detalii mai jos.
Printre altele, Grok îţi permite să generezi imagini folosind doar cuvinte cheie şi apoi să le publici pe reţeaua de socializare X. Debutul acestei funcţii a venit cu probleme, iar abonaţii X Premium, care oferă acces la Grok au postat numai lucruri controversate. L-au rugat pe chatbot să creeze imagini cu Kamala Harris cu o armă în mână, Obama consumând droguri cu Trump şi multe altele de genul.
Alţi chatboti au limite cu privire la ce imagini pot genera, în limite legale, morale şi etice. Mai ales ferindu-se de imagini cu copii, persoane publice şi NFSW. Grok îţi spune şi ce limite are la generarea de imagini, dacă îl întrebi. Aparent nu va genrea imagini porografice, foarte violente şi care incita la ura. Şi nici unele care încalcă drepturi de autor.
Nici deepfake-uri care ar putea influenţa lumea reală în rău. Au fost făcute multe experimente pe Grok şi există anumite breşe în sistem care îţi permit să generezi personaje politice făcând lucruri reprobabile. Musk găseşte aceste lucruri amuzante şi consideră că „lumea se distrează”. O altă problemă e că noii chatboți nici nu pun menţiunea „Generat de AI” pe conţinuturile create.
xAI e deja sub lupa regulatorilor din UE şi SUA, mai ales că se apropie alegerile în State, în vreme ce în UE a apărut deja un set de legi legate de AI, copyright şi deepfake. Stable Diffusion poate fi păcălit să producă imagini controversate.
Există şi cealaltă parte a spectrului: Google Gemini e prea politic corect şi blochează stereotipuri de rasă şi sex.
