Meta lanseaza „Scam Alert”: inteligenta artificiala va avertiza utilizatorii cand detecteaza mesaje suspecte
Meta introduce o noua linie de aparare impotriva fraudelor online: inteligenta artificiala va analiza mesajele si va avertiza utilizatorii atunci cand detecteaza o posibila tentativa de inselatorie. 📱🤖⚠️
Noua functie se numeste Scam Alert si utilizeaza tehnologii de machine learning pentru a identifica mesajele care prezinta caracteristici asociate fraudelor.
Important: sistemul nu blocheaza automat mesajul si nu ia decizii in locul utilizatorului. El doar semnaleaza riscul, iar persoana care primeste mesajul hotaraste ce face mai departe.
Cum functioneaza Scam Alert
Atunci cand sistemul identifica un mesaj ca fiind suspect, utilizatorului ii apare o avertizare prin care este informat ca ar putea fi vorba despre o tentativa de inselatorie.
Persoana care a trimis mesajul nu vede aceasta avertizare.
Din acel moment, controlul ramane la utilizator.
Acesta poate decide sa:
- continue conversatia;
- raporteze expeditorul;
- blocheze persoana respectiva;
- marcheze conversatia drept sigura, daca avertizarea AI a fost gresita.
AI-ul poate gresi. Meta lasa decizia utilizatorului
Un element important al sistemului este tocmai faptul ca inteligenta artificiala nu are ultimul cuvant.
Pot exista situatii in care un mesaj perfect legitim, trimis chiar de o persoana cunoscuta, sa fie interpretat gresit drept tentativa de frauda.
In acest caz, utilizatorul poate marca discutia ca fiind sigura.
Dupa aceasta alegere, sistemul nu va mai genera avertizari pentru mesajele primite de la persoana respectiva.
Este o abordare prin care Meta incearca sa combine detectarea automata a riscurilor cu decizia umana, fara ca algoritmul sa blocheze conversatii pe baza unei simple suspiciuni.
De ce pot fi utile avertizarile
Tentativele de frauda online sunt construite tot mai des astfel incat mesajele sa para credibile.
Escrocii pot incerca sa creeze o situatie de urgenta, sa determine victima sa acceseze un link, sa ofere date personale sau sa transfere bani.
Un sistem automat poate analiza anumite caracteristici ale mesajelor si poate interveni exact in momentul in care utilizatorul este pe punctul de a continua o conversatie potential periculoasa.
Uneori, simpla aparitie a mesajului „Atentie, aceasta ar putea fi o inselatorie” poate fi suficienta pentru ca utilizatorul sa priveasca discutia cu mai multa prudenta. 🔎
Scam Alert este optional
Meta nu activeaza automat noua functie pentru toata lumea.
Scam Alert este lansata initial in versiune beta si este optionala, ceea ce inseamna ca utilizatorii care vor sa beneficieze de ea trebuie sa o activeze din setarile aplicatiei.
Compania poate astfel sa testeze functionarea sistemului si, mai ales, capacitatea algoritmului de a face diferenta intre o conversatie obisnuita si o tentativa reala de frauda.
AI-ul devine si „paznic” al conversatiilor
Inteligenta artificiala a intrat deja in aplicatiile pe care le folosim zilnic pentru generare de continut, cautare, recomandari sau asistenti virtuali.
Scam Alert arata o alta directie: AI folosit pentru detectarea riscurilor.
Dar Meta pastreaza, cel putin in aceasta etapa, o limita importanta.
Algoritmul poate spune:
„Atentie, ceva pare suspect.”
Decizia de a continua conversatia, de a bloca sau de a raporta ramane insa la om.
Iar intr-o lume in care tentativele de inselatorie devin tot mai convingatoare, cateva secunde de indoiala introduse la momentul potrivit pot face diferenta. 📲⚠️
