Scandal in lumea inteligentei artificiale: Anthropic blocheaza accesul la modelele sale AI dupa un ordin al administratiei SUA
Decizia vizeaza modelele Fable 5 si Mythos 5, considerate printre cele mai avansate tehnologii dezvoltate de companie.
Potrivit Anthropic, agentii guvernamentale au cerut ca accesul sa fie blocat pentru toti cetatenii straini, inclusiv pentru persoanele aflate legal in Statele Unite si chiar pentru unii angajati ai companiei.
Modele AI cu capacitati avansate de securitate cibernetica
Principalul motiv al ingrijorarilor il reprezinta capacitatile modelului Mythos 5, care poate identifica vulnerabilitati software extrem de complexe, inclusiv unele probleme de securitate nedescoperite timp de ani sau chiar decenii.
Aceasta abilitate a fost folosita de autoritati americane si companii pentru identificarea si remedierea breșelor informatice.
Pe de alta parte, expertii avertizeaza ca o astfel de tehnologie, folosita in scopuri gresite, ar putea deveni un instrument periculos pentru atacuri cibernetice.
Fable 5, versiunea accesibila publicului
Modelul Fable 5, lansat recent, foloseste tehnologia dezvoltata pentru Mythos, dar anumite functii sensibile, precum cele legate de securitate cibernetica si biotehnologie, sunt restrictionate.
Versiunea completa, Mythos 5, ar urma sa fie utilizata doar de agentii guvernamentale si parteneri corporativi selectati.
Anthropic contesta modul in care a fost luata decizia
Compania sustine ca a primit doar informatii partiale de la autoritati si considera ca masura nu se bazeaza pe o analiza tehnica suficient de clara.
Specialistii Anthropic au evaluat un raport care ar fi putut declansa ordinul si au concluzionat ca acesta ar fi vizat o capacitate limitata a inteligentei artificiale de a analiza cod si de a corecta erori.
Compania a mentionat ca si alte modele AI dezvoltate de rivali au capacitati similare si a criticat ideea blocarii accesului pentru milioane de utilizatori.
Disputa dintre Anthropic si administratia americana
Conflictul dintre companie si autoritatile americane nu este nou.
Anthropic a sustinut anterior ca modelele sale AI nu ar trebui folosite pentru arme autonome sau sisteme de supraveghere in masa.
Ulterior, Pentagonul a declarat compania un risc pentru lantul de aprovizionare, masura care ar putea limita folosirea tehnologiilor Anthropic in cadrul institutiilor guvernamentale. Compania a contestat aceasta clasificare.
Dezbaterea globala: inovatie sau risc?
Cazul Anthropic readuce in centrul atentiei una dintre cele mai mari intrebari ale erei AI: cat de mult trebuie controlate tehnologiile extrem de puternice si cine decide limita dintre siguranta si acces liber.
Companiile de inteligenta artificiala sustin ca protectia este necesara, dar avertizeaza ca restrictiile trebuie sa fie transparente, bazate pe criterii tehnice si aplicate uniform.
