Studiu alarmant: chatbotii AI dau diagnostice gresite in peste 80% din cazuri, fara date complete

Un nou semnal de alarma vine din zona inteligentei artificiale: chatbotii populari, folositi zilnic de milioane de oameni pentru raspunsuri rapide, pot da diagnostice medicale gresite in peste 80% din cazuri atunci cand nu au toate informatiile necesare.

Studiul, realizat de cercetatori de la Mass General Brigham si publicat in JAMA Network Open, a analizat performanta a 21 de modele de inteligenta artificiala, inclusiv cele dezvoltate de OpenAI, Google si Anthropic.

Cercetatorii au folosit 29 de cazuri clinice simulate, bazate pe texte medicale reale, oferind chatbotilor informatii in etape: simptome, rezultate de laborator si observatii medicale. Rezultatul? In lipsa unor date complete, majoritatea modelelor au gresit diagnosticul in peste 80% din situatii.

Chiar si atunci cand au primit toate informatiile necesare, performanta nu a fost perfecta. Rata erorilor a ramas peste 40%, desi in unele cazuri punctuale anumite modele au reusit sa atinga o acuratete de pana la 90%.

Problema majora identificata de specialisti tine de asa-numitele „halucinatii” ale inteligentei artificiale — situatii in care modelele genereaza raspunsuri plauzibile, dar incorecte, atunci cand nu au suficiente date sau certitudine.

Concluzia este clara: AI-ul poate fi un instrument util pentru informare generala, dar nu poate inlocui un diagnostic medical real. In lipsa contextului complet si a interpretarii clinice umane, riscul de eroare ramane ridicat.

Pe scurt, tehnologia impresioneaza, dar cand vine vorba de sanatate, deciziile trebuie sa ramana in mainile medicilor.