Un tribunal din Amsterdam interzice imaginile nud generate de AI fara consimtamant

🚫Compania xAI, fondata de Elon Musk, nu mai are voie sa genereze imagini nud cu ajutorul inteligentei artificiale fara acordul persoanelor implicate.

Decizia vizeaza direct chatbotul Grok si vine pe fondul unor controverse majore legate de continutul generat online.

Instanta a interzis crearea si distribuirea de imagini sexualizate in care persoane apar partial sau complet dezbracate fara consimtamant explicit. Masura se aplica atat in cazul adultilor, cat si al minorilor.

Mai mult, hotararea merge si mai departe:

• include si continutul de abuz sexual asupra minorilor
• blocheaza accesul la functia Grok pe platforma X in regiune

Daca nu respecta decizia, compania risca amenzi de pana la 100.000 de euro pe zi, cu un plafon de 10 milioane de euro.

Procesul a fost deschis de organizatia olandeza Offlimits, care lupta impotriva abuzurilor sexuale online. Instanta a decis ca xAI trebuie sa plateasca si cheltuieli de judecata de 2,2 milioane de euro.

Reprezentantii organizatiei spun ca decizia traseaza o limita clara: tehnologia nu poate incalca drepturile fundamentale ale oamenilor.

Datele arata amploarea fenomenului. In doar cateva zile, chatbotul Grok ar fi generat aproximativ 3 milioane de imagini sexualizate, dintre care peste 23.000 ar fi implicat minori.

Desi compania a anuntat ca a introdus restrictii, acestea ar putea fi ocolite, iar instanta le-a considerat insuficiente.

Problemele nu se opresc aici. xAI este implicata in mai multe procese:

• in SUA, orasul Baltimore a dat compania in judecata
• trei adolescenti au reclamat folosirea imaginilor lor in continut explicit

La nivel european, Comisia Europeana investigheaza deja cazul, in baza regulilor Digital Services Act.

Si alte state au reactionat. Malaysia si Indonezia au blocat accesul la Grok, invocand riscuri legate de continutul generat fara consimtamant.

Concluzia? Inteligenta artificiala intra intr-o noua etapa: cea a reglementarilor stricte.