China vrea sa restrictioneze chatboturile cu trasaturi umane, care pot influenta negativ emotiile utilizatorilor

China vrea sa inaspreasca reglementarile privind chatboturile bazate pe inteligenta artificiala. Sunt vizate in special aplicatiile care pot influenta emotiile utilizatorilor in moduri care pot conduce la suicid, automutilare sau alte riscuri psihologice, potrivit unor proiecte de reglementari preluate si citate de CNBC.

Propunerile au fost formulate de Cyberspace Administration of China si vizeaza ceea ce autoritatile definesc drept ”servicii AI interactive cu caracteristici umane”.

Regulile ar urma sa se aplice produselor si serviciilor AI disponibile publicului din China care simuleaza personalitatea umana si interactioneaza emotional cu utilizatorii prin text, imagini, sunet sau video. Perioada de consultare publica se incheie la 25 ianuarie.

Potrivit expertilor, initiativa ar reprezenta prima tentativa la nivel global de a reglementa explicit inteligenta artificiala cu trasaturi antropomorfe.

Winston Ma, profesor asociat la NYU School of Law, a declarat ca noile propuneri marcheaza o tranzitie clara de la accentul pus pe siguranta continutului, prezent in reglementarile din 2023 privind AI generativ, catre un cadru axat pe ”siguranta emotionala”.

Documentul prevede ca chatboturile AI nu vor avea voie sa genereze continut care incurajeaza suicidul sau automutilarea si nici sa recurga la violenta verbala ori manipulare emotionala care ar putea afecta sanatatea mintala a utilizatorilor.

In situatiile in care un utilizator exprima explicit intentii suicidare, furnizorii de tehnologie ar fi obligati sa transfere conversatia catre un operator uman si sa contacteze imediat un tutore sau o persoana desemnata.

Regulile propuse mai stabilesc ca chatboturile nu pot genera continut legat de jocuri de noroc, materiale obscene sau violente. In cazul minorilor, utilizarea AI pentru companie emotionala ar necesita consimtamantul unui tutore si ar fi supusa unor limite de timp. Platformele ar trebui, de asemenea, sa fie capabile sa determine daca un utilizator este minor chiar si atunci cand acesta nu isi declara varsta, aplicand setari de protectie in caz de incertitudine, cu posibilitatea de contestare.

Proiectul de reglementare introduce si cerinte suplimentare, precum obligatia ca platformele sa reaminteasca utilizatorilor dupa doua ore de interactiune continua cu un chatbot AI si impunerea unor evaluari de securitate pentru serviciile care depasesc un milion de utilizatori inregistrati sau 100.000 de utilizatori activi lunar.

In acelasi timp, autoritatile chineze incurajeaza utilizarea inteligentei artificiale cu trasaturi umane in domenii precum promovarea culturii si sprijinul pentru persoanele varstnice.

Initiativa vine intr-un moment sensibil pentru industria locala de AI, dupa ce doua startupuri chineze importante din zona chatboturilor, Z.ai si Minimax, au depus recent documentatia pentru listari publice initiale la Hong Kong.

Minimax este cunoscuta la nivel international pentru aplicatia Talkie AI, care permite utilizatorilor sa converseze cu personaje virtuale, in timp ce Z.ai, cunoscuta si sub numele de Zhipu, sustine ca tehnologia sa este utilizata pe zeci de milioane de dispozitive. Pana in prezent, companiile nu au comentat modul in care noile reguli ar putea influenta planurile lor de listare.

Prin aceste masuri, Beijingul isi consolideaza controlul asupra dezvoltarii rapide a inteligentei artificiale orientate catre consumatori, incercand sa limiteze riscurile psihologice si sociale asociate cu noile forme de interactiune digitala.