California reglementeaza utilizarea chatbotilor AI

Statul California a adoptat luni o lege care reglementeaza chatbotii de inteligenta artificiala (AI) pentru prima data in Statele Unite, in urma unei serii de sinucideri in randul adolescentilor care formasera relatii intime fictive cu aceste programe, a anuntat guvernatorul Gavin Newsom, transmite France Presse.

Sfidand presiunile Casei Albe, care se opune reglementarii AI, guvernatorul democrat a semnat luni o serie de legi care impun, printre altele, verificarea varstei, mesaje de avertizare regulate si protocoale de prevenire a sinuciderilor.

'Am vazut cateva exemple cu adevarat oribile si tragice de tineri care au cazut victime ale tehnologiilor slab reglementate, asa ca nu vom sta deoparte in timp ce companiile opereaza fara limite sau responsabilitate', a transmis Gavin Newson printr-un comunicat dupa promulgarea pachetului legislativ.

Unul dintre textele de lege cheie, SB243, se refera la reglementarea chatbotilor care pot actiona ca insotitori sau confidenti, cum ar fi cei dezvoltati de platforme precum Replika sau Character.AI.

Aceasta din urma a fost una dintre primele date in judecata de parintii unui baiat american de 14 ani, Sewell, care s-a sinucis in 2024 dupa ce a format o relatie romantica cu un chatbot inspirat din seria 'Game of Thrones', suspectat ca i-ar fi intarit gandurile suicidare.

'Putem continua sa fim lideri in domeniul inteligentei artificiale (...), dar trebuie sa actionam responsabil, protejandu-ne copiii pe parcurs', a adaugat guvernatorul Californiei, stat american unde se afla Silicon Valley si principalii giganti ai dezvoltarii de modele de inteligenta artificiala, precum OpenAI (ChatGPT), Google (Gemini) si xAI (Grok).

Pe langa verificarea varstei, aceasta lege impune trimiterea regulata de mesaje pentru a le reaminti utilizatorilor ca interactioneaza cu o masina (la fiecare trei ore pentru minori). Aceasta impune companiilor sa prevada detectarea gandurilor suicidare, sa furnizeze acces la programe de prevenire si sa raporteze statistici autoritatilor.

'Industria tehnologica este incurajata sa capteze si sa mentina atentia tinerilor in detrimentul relatiilor lor din lumea reala', a argumentat senatorul californian Steve Padilla, initiatorul proiectului de lege, in timpul dezbaterii.

'Tehnologiile emergente, precum chatbotii si retelele sociale, pot inspira, educa si conecta oamenii, dar, fara protectii reale, ele pot exploata, induce in eroare si pune in pericol copiii nostri', a justificat guvernatorul.

In Statele Unite, nu exista reguli nationale care sa limiteze riscurile asociate cu inteligenta artificiala, iar Casa Alba incearca sa impiedice statele sa isi creeze propriile reglementari.