ChatGPT inaspreste regulile pentru adolescenti. Restrictii privind armele si conversatiile despre violenta.
Potrivit anuntului relatat de Reuters, restrictiile pentru adolescenti vor interveni inclusiv atunci cand intrebarile par inofensive si conversatia nu exprima intentii violente.
Compania urmareste astfel sa reduca riscul ca informatiile oferite de chatbot sa contribuie la acte de violenta in lumea reala.
Conversatii intrerupte si posibile suspendari
Pentru toti utilizatorii, ChatGPT va putea incheia automat discutiile in care identifica semnele unei preocupari persistente pentru violenta.
OpenAI ar putea suspenda temporar si conturile asociate unor conversatii repetate de acest tip. Masurile anuntate nu se limiteaza, asadar, la experienta destinata minorilor.
Totodata, compania va reduce detaliile oferite despre atacuri armate in masa din trecut, inclusiv informatiile despre armele folosite si despre modul in care autorii le-au obtinut.
Protectii activate prin estimarea varstei
OpenAI anunta si imbunatatirea sistemului de estimare a varstei. Conturile identificate ca apartinand probabil unor persoane sub 18 ani vor fi trecute la experienta ChatGPT pentru adolescenti, care include masuri suplimentare de protectie.
Compania precizeaza ca parintii vor fi informati atunci cand contul copilului este suspendat pentru conversatii repetate despre violenta.
Implementarea noilor masuri va incepe treptat, in urmatoarele saptamani, iar regulile vor fi ajustate ulterior.
Siguranta minorilor ramane sub lupa
Anuntul vine pe fondul preocuparilor privind capacitatea chatboturilor de a identifica situatiile de risc si de a raspunde adecvat utilizatorilor vulnerabili.
Separat, organizatia nonprofit Common Sense Media a semnalat, in evaluarile sale, intarzieri sau absenta unor notificari catre parinti in conversatii de test despre sinucidere, autovatamare ori tulburari alimentare.
Noile masuri anuntate de OpenAI vizeaza prevenirea violentei, intr-un context mai larg de verificare a protectiilor oferite adolescentilor care folosesc inteligenta artificiala.
