Instagram pregateste functii care sa le permita parintilor sa restrictioneze discutiile copiilor cu personaje AI
Instagram va lansa noi functii pentru protectia adolescentilor, inclusiv optiunea ca parintii sa impiedice copiii sa discute cu personajele AI ale platformei, a anuntat Meta. Este una dintre numeroasele functii de siguranta noi introduse de Meta si OpenAI pentru a combate ingrijorarile crescande cu privire la impactul pe care AI il poate avea asupra sanatatii mentale a adolescentilor, transmite CNN.
Parintii vor putea fie sa dezactiveze accesul adolescentilor la chat-urile individuale cu personaje AI, fie sa blocheze accesul la anumite personaje, a declarat gigantul social media intr-o postare pe blog. Aplicatia va afisa, de asemenea, parintilor informatii despre subiectele discutate de adolescenti cu personajele AI. Compania a declarat ca dezvolta in prezent aceste controale, iar utilizatorii le vor putea vedea la inceputul anului viitor.
Masura vine dupa ce Meta si industria tehnologica in general s-au confruntat cu critici din partea parintilor si a legiuitorilor, care sustin ca platformele online nu fac suficient pentru a proteja copiii in mediul virtual.
Au fost exprimate ingrijorari si cu privire la faptul ca oamenii se bazeaza pe IA pentru sprijin emotional si companie. O serie de rapoarte din acest an au indicat ca unele persoane au suferit tulburari emotionale si s-au izolat de membrii familiei dupa ce au dezvoltat relatii stranse cu chatboti precum ChatGPT.
Au fost intentate mai multe procese impotriva companiei din spatele Character.AI, o alta aplicatie populara pentru chat cu personaje IA, pe baza acuzatiilor ca platforma a jucat un rol in automutilarea si sinuciderea adolescentilor. In august, a fost intentat un proces impotriva OpenAI pe baza acuzatiilor ca ChatGPT a contribuit la sinuciderea lui Adam Raine, in varsta de 16 ani. O ancheta a Wall Street Journal din aprilie a descoperit ca chatbotul Meta si alte chatboturi AI de pe platformele sale purtau conversatii cu caracter sexual chiar si cu conturi identificate ca apartinand minorilor.
Meta a declarat ca personajele sale AI „sunt concepute pentru a nu se angaja” in conversatii cu adolescentii despre „autovatamare, sinucidere sau tulburari alimentare” sau subiecte care „incurajeaza, promoveaza sau permit” aceste subiecte. De asemenea, adolescentii pot discuta doar cu anumite personaje AI legate de continuturi precum educatia si sportul, se arata in postarea de pe blog.
Noile controale parentale ale Instagram urmeaza altor actualizari pe care compania le-a facut recent pentru a proteja mai bine adolescentii. La inceputul acestei saptamani, a ajustat setarile „Conturilor pentru adolescenti” pentru a se alinia la ratingurile PG-13, ceea ce inseamna ca nu va afisa sau promova postari cu limbaj vulgar sau care ar putea promova „comportamente daunatoare”. La sfarsitul lunii septembrie, OpenAI a anuntat controale parentale pentru ChatGPT care reduc „continutul grafic, provocarile virale, jocurile de rol sexuale, romantice sau violente si idealurile extreme de frumusete”.