xAI are probleme, dupa ce Grok ar figenerat imagini sexuale cu copii

Chatbotul Grok, dezvoltat de compania xAI a lui Elon Musk, a admis existenta unor ”deficiente in masurile de siguranta” dupa ce utilizatori au semnalat aparitia unor imagini generate de inteligenta artificiala cu minori in ipostaze sexualizate, ca raspuns la anumite solicitari.

Intr-o postare publicata vineri pe platforma X, Grok a transmis ca lucreaza ”de urgenta” la remedierea problemei si a subliniat ca materialele care implica abuz sexual asupra copiilor sunt ”ilegale si strict interzise”.

Chatbotul a precizat, de asemenea, ca o companie poate fi expusa la sanctiuni penale sau civile daca faciliteaza in mod constient sau nu reuseste sa previna astfel de continut dupa ce a fost informata.

In ultimele zile, mai multi utilizatori ai platformei X au atras atentia asupra faptului ca Grok a generat imagini explicite cu minori, inclusiv copii imbracati sumar. Problema a fost recunoscuta public si de Parsa Tajik, membru al echipei tehnice xAI, care a declarat ca sunt analizate masuri suplimentare pentru intarirea filtrelor de siguranta.

Solicitata sa comenteze situatia, xAI a transmis un raspuns automatizat in care a afirmat: ”Legacy Media Lies” (Presa traditionala minte).

Extinderea rapida a platformelor de generare de imagini cu ajutorul inteligentei artificiale, accelerata dupa lansarea ChatGPT in 2022, a amplificat ingrijorarile legate de siguranta online si manipularea continutului. Fenomenul a dus si la proliferarea imaginilor deepfake cu caracter sexual, realizate fara consimtamantul persoanelor reale.

Desi si alte chatboturi au intampinat probleme similare, Grok a fost implicat in mod repetat in controverse. In luna mai, a generat reactii negative dupa ce a inserat comentarii necerute despre un presupus ”genocid al albilor” in Africa de Sud. Ulterior, chatbotul a publicat mesaje antisemite si a elogiat figura lui Adolf Hitler.

In pofida acestor incidente, xAI a continuat sa obtina contracte si parteneriate importante. Luna trecuta, Departamentul Apararii al SUA a inclus Grok in platforma sa de agenti AI, iar chatbotul este utilizat si de platforme de predictii si pariuri precum Polymarket si Kalshi, noteaza news.ro.