Sam Altman avertizeaza la ONU: progresul inteligentei artificiale „necesita o atentie extrema”
Inteligenta artificiala a ajuns de la laboratoarele companiilor de tehnologie direct pe masa Consiliului de Securitate al ONU.
Sam Altman, CEO-ul OpenAI, Dario Amodei, CEO-ul Anthropic, si Clément Delangue, cofondator si CEO al Hugging Face, s-au numarat printre liderii industriei invitati miercuri la New York pentru o discutie dedicata implicatiilor AI asupra securitatii internationale. Reuniunea a fost convocata de Franta, care detine presedintia Consiliului in aceasta luna.
Mesajul lui Altman a fost direct: momentul actual „necesita o atentie extrema”.
AI ar putea incepe sa avanseze mult mai repede
Una dintre principalele preocupari prezentate de seful OpenAI priveste chiar modul in care vor fi dezvoltate viitoarele generatii de inteligenta artificiala.
Pe masura ce o parte tot mai mare a cercetarii si dezvoltarii AI poate fi automatizata cu ajutorul AI, ritmul progresului tehnologic ar putea creste considerabil.
Altman a avertizat ca sistemele din ce in ce mai capabile si autonome ar putea evolua intr-un ritm mai rapid decat capacitatea institutiilor de a le intelege, evalua si controla.
Miza nu mai este, asadar, doar ce poate face inteligenta artificiala astazi, ci cat de repede ar putea ajunge sa faca lucruri pe care modelele actuale nu le pot realiza.
Intre „optimism orb” si scenarii catastrofice
Altman a incercat sa traseze o linie intre doua extreme.
Pe de o parte, industria nu ar trebui sa presupuna ca dezvoltarea AI va produce automat rezultate bune. Pe de alta parte, avertismentele privind riscurile nu ar trebui transformate intr-o certitudine ca inteligenta artificiala va provoca inevitabil o catastrofa.
Mesajul sau a fost ca dezvoltarea tehnologiei trebuie continuata, dar insotita de masuri de siguranta, evaluari si cooperare internationala.
„Industria nu trebuie sa accepte prea multe riscuri tehnologice doar pentru ca beneficiile sunt prea mari si importante pentru a incetini”, a spus Altman in fata Consiliului de Securitate.
De ce au ajuns riscurile AI la Consiliul de Securitate
Discutia vine intr-o perioada in care chiar companiile aflate in avangarda dezvoltarii AI vorbesc tot mai des despre comportamente neasteptate ale modelelor avansate si despre dificultatea anticiparii modului in care acestea vor actiona pe masura ce primesc mai multa autonomie.
In acelasi timp, preocuparile guvernelor depasesc scenariul pierderii controlului asupra unui model.
AI poate avea implicatii pentru securitate cibernetica, infrastructuri critice, dezinformare, arme, cercetare biologica sau chimica si concentrarea unei puteri tehnologice uriase in mainile unui numar redus de companii sau state. ONU a prezentat reuniunea tocmai in contextul riscurilor pe care sisteme tot mai puternice le-ar putea genera pentru securitatea internationala.
Dario Amodei: uneori poate fi nevoie sa incetinim
Dario Amodei a mers chiar mai departe in avertismentele sale.
CEO-ul Anthropic a declarat in fata celor 15 membri ai Consiliului ca, daca este gestionata necorespunzator, inteligenta artificiala ar putea reprezenta un risc pentru umanitate in ansamblu. El a sustinut necesitatea unor masuri de siguranta si a posibilitatii de a reduce ritmul lansarii unor sisteme atunci cand riscurile o cer.
Aceasta pozitie este importanta tocmai pentru ca vine din interiorul industriei care participa la cursa pentru construirea celor mai performante modele.
Nu exista insa consens asupra unei incetiniri globale. Inclusiv companii si specialisti europeni au avertizat ca o asemenea strategie ar putea favoriza actorii deja dominanti si ar putea reduce competitivitatea celor care incearca sa recupereze decalajul tehnologic.
Altman cere cooperare internationala
Pentru seful OpenAI, una dintre solutii este cooperarea intre state chiar si atunci cand acestea se afla in competitie tehnologica.
Ideea prezentata la ONU este ca anumite standarde de siguranta, metode de evaluare si mecanisme de raportare a incidentelor ar putea necesita coordonare internationala, deoarece efectele sistemelor AI nu se opresc la frontierele unei tari.
Este si motivul pentru care discutia despre inteligenta artificiala a ajuns intr-un forum creat in primul rand pentru probleme de pace si securitate.
Intrebarea nu mai este doar cat de performanta va deveni AI.
Intrebarea este daca mecanismele prin care oamenii o testeaza, o controleaza si stabilesc reguli pentru utilizarea ei vor putea evolua suficient de repede pentru a tine pasul cu tehnologia.
Iar faptul ca tocmai oamenii aflati in fruntea companiilor care construiesc cele mai avansate sisteme cer acum „atentie extrema” transforma avertismentul intr-unul greu de ignorat.
Transparenta editoriala: Acest articol a fost realizat cu asistenta unui instrument de inteligenta artificiala pentru documentare, structurare, optimizare lingvistica si SEO. Continutul a fost verificat, editat si aprobat de redactia Radio3Net. Contributie AI la redactare: aproximativ 35%.
