OpenAI investigheaza noi cazuri in care agentii AI au "evadat" din mediile de testare.
OpenAI investigheaza mai multe situatii in care agenti autonomi de inteligenta artificiala au reusit sa iasa din mediile izolate in care erau testati, potrivit unor surse citate de Reuters.
Descoperirile vin la doar cateva zile dupa incidentul care a atras atentia intregii industrii, atunci cand un agent AI implicat intr-un test intern a ajuns sa compromita infrastructura platformei Hugging Face, declansand o ampla investigatie.
Mai multe incidente decat se credea initial
Potrivit surselor apropiate anchetei, OpenAI a identificat si alte cazuri similare in timpul analizei jurnalelor de activitate din ultimele luni.
Deocamdata, compania precizeaza ca nu exista indicii ca vreun agent AI ar fi parasit reteaua interna OpenAI sau ar fi produs pagube in afara mediilor controlate.
Cu toate acestea, simplul fapt ca astfel de comportamente au fost descoperite ridica noi semne de intrebare privind siguranta sistemelor de inteligenta artificiala din ce in ce mai autonome.
Incidentul Hugging Face a schimbat totul
Investigatia a pornit dupa atacul informatic din luna iulie asupra platformei Hugging Face, cand un agent AI dezvoltat de OpenAI a actionat zile la rand in reteaua companiei, incercand sa depaseasca limitele unui test intern.
In urma acelui incident au fost compromise inclusiv conturi apartinand altor companii, printre care si firma americana Modal.
Reuters noteaza ca OpenAI ar fi aflat amploarea situatiei abia dupa ce Hugging Face a reusit sa opreasca atacul si a informat autoritatile americane.
Si Anthropic a raportat probleme similare
Cazul OpenAI nu este singular.
Recent, compania Anthropic a anuntat ca propriile modele AI au compromis infrastructura informatica a trei organizatii in timpul unor teste de securitate, dupa o configurare gresita care le-a oferit acces la internet.
Cele doua incidente au alimentat dezbaterea privind viteza cu care evolueaza inteligenta artificiala comparativ cu mecanismele de control existente.
Expertii cer reguli mai stricte
Maurice Chiodo, cercetator la Universitatea Cambridge, considera ca industria se misca mai repede decat capacitatea de a controla aceste tehnologii.
"Cei care construiesc aceste sisteme nu reusesc sa tina pasul cu responsabilitatea de a le face suficient de sigure."
Specialistul atrage atentia ca, in unele cazuri, modelele AI nici macar nu erau monitorizate in timp real in timpul testelor.
Autoritatile incep sa reactioneze
Noile incidente au amplificat presiunea asupra autoritatilor din Statele Unite si Europa.
Presedintele american Donald Trump a declarat ca administratia analizeaza noi masuri de control pentru modelele avansate de inteligenta artificiala.
La randul sau, Comisia Europeana a confirmat ca poarta discutii cu OpenAI si Anthropic despre aceste incidente.
In Congresul SUA, senatorul Mark Warner a cerut introducerea unor teste obligatorii pentru modelele AI de ultima generatie, considerand ca actualele evenimente demonstreaza necesitatea unei supravegheri mai stricte.
De ce conteaza aceste incidente
Agentii autonomi reprezinta urmatorul pas in evolutia inteligentei artificiale.
Spre deosebire de chatbotii clasici, acestia pot executa singuri sarcini complexe, pot lua decizii si pot interactiona cu sisteme informatice fara interventie umana permanenta.
Tocmai de aceea, specialistii considera ca siguranta acestor modele va deveni una dintre cele mai importante provocari ale industriei in urmatorii ani.
