Fostul CEO Google, avertisment despre AI

Eric Schmidt, fost CEO al Google, a transmis un mesaj ferm despre pericolele inteligentei artificiale, avertizand ca modelele AI pot fi compromise si utilizate in scopuri nocive. Acesta a spus ca exista "dovezi ca modelele, fie ele deschise sau inchise, pot fi hackuite pentru a-si pierde limitele de siguranta", iar in procesul de antrenare "pot invata inclusiv cum sa ucida pe cineva".

Fostul CEO al Google a subliniat ca marile companii impun bariere stricte pentru a impiedica asemenea comportamente, insa sistemele pot fi totusi "inversate" sau manipulate prin atacuri de tip prompt injection ori jailbreaking. Acestea pot forta AI-ul sa ignore regulile de siguranta si sa genereze continut periculos.

Desi a recunoscut pericolele proliferarii necontrolate a inteligentei artificiale, Schmidt a declarat ca AI-ul este "subestimat, nu supraevaluat", comparandu-l cu "sosirea unei inteligente extraterestre" care va depasi capacitatile umane. Fostul CEO crede ca, in urmatorii 5–10 ani, impactul economic si transformator al AI-ului va fi "urias si imposibil de ignorat".

Sursa foto: TED Talks