AI-ul Gemma de la Google a fost retras, dupa ce a inventat informatii despre o senatoare americana

Google a retras modelul Gemma din AI Studio, dupa ce un senator american a acuzat compania de defaimare, din cauza unor acuzatii inventate de acesta.

Senatoarea republicana din Tennessee Marsha Blackburn i-a scris sefului Google Sundar Pichai dupa ce modelul open-source al companiei a sustinut ca aceasta se face vinovata de viol.

Blackburn acuza Google ca toate informatiile date de Gemma ca raspuns sunt false, iar in sustinerea acestora AI-ul a produs link-uri catre articole care nu exista.

Google se apara spunand ca face eforturi pentru a reduce halucinatiile - o problema care afecteaza toate modelele lingvistice, facandu-le sa inventeze informatii.

De asemenea, Google a decis retragerea modelului Gemma din suita AI Studio, dar acesta ramane disponibil dezvoltatorilor prin intermediul API-urilor.

Blackburn este unul dintre senatorii republicani care n-au sustinut mereu politicile administratiei Trump privind inteligenta artificiala. Aceasta a votat pentru eliminarea unei prevederi care urma sa blocheze reglementarile AI-ului la nivel de stat vreme de 10 ani.