2025-02-05 15:12:33

Comisia Europeana interzice 8 utilizari ale inteligentei artificiale

Comisia Europeana (CE) anunta interzicerea in Uniunea Europeana (UE) a opt dintre sistemele inteligentei artificiale (AI), pe care le considera prea periculoase, in cadrul legislatiei europene de pionierat adoptate anul trecut (AI Act), transmite France Presse.


1. IDENTIFICAREA IN TIMP REAL A PERSOANELOR CU CAMERE IN LOCURI PUBLICE


UE interzice folosirea camerelor echipate cu tehnologii de recunoastere faciala in timp real pe o strada comerciala in vederea identificarii unor persoane cautate.


Notiunea de ”timp real” este cruciala in aceasta interdictie.


UE vrea sa evite o interventie imediata impotriva unei persoane, fara o verificare prealabila a altor informatii provenind din lumea reala.


Derogari sunt insa prevazute in anumite misiuni ale fortelor de ordine, de exemmplu in lupta impotriva terorismului.


2. CLASIFICAREA SOCIALA IN BAZA DATELOR PERSONALE FARA LEGATURA CU RISCUL EVALUAT


Un organism nu poate sa recurga la o aplicatie AI cu scopul de a clasifica persoane in functie de probabilitatea de a comite o frauda a ajutoarelor sociale, folosind date personale care nu au nimic de a face cu contextul - de exemplu originea, culoarea pielii sau comportamentul pe retele de socializare.


Astfel, in vederea evaluarii riscului nerambursarii unui imprumut bancar, numai datele financiare pot fi luate in calcul.


3. EVALUAREA RISCULUI INFRACTIONAL AL UNEI PERSOANE PE BAZA DATELOR BIOMETRICE


Politia nu poate folosi o AI pentru a prezice riscul comportamentului infractional al unei persoane, de exemplu probabilitatea de a participa la revolte sau de a comite un atentat, sau numai pe caracteristici persoanle, de exemplu doar trasaturile fetei, fara sa ia in calcul fapte obiective si verificabile in mod direct legate de actiunile acesteia.


4. CREAREA DE BAZE DE DATE CU FETE ALE UNOR SISTEME DE RECUNOASTERE FACIALA LUAND IMAGINI DE PE INTERNET


Sunt interzise instrumentele de ”periere” a Internetului si extragerea unor fotografii ale fetelor fara discernamant cu scopul constituirii unor baze de date la scara mare de miliarde de imagini.


Acest lucru ar insemna o supraveghere de stat.


5. RECUNOASTEREA EMOTIILOR LA LOCUL DE MUNCA SAU INSTITUTII DE INVATAMANT


O organizatie nu poate folosi webcam sau sisteme de recunoastere vocala cu scopul de a detecta emotiile angajatilor sai.


6. MANIPULAREA COMPORTAMENTULUI PERSOANELOR CU AJUTORUL AI


Este interzisa integrarea in designul unei interfete a unor sisteme AI inselatoare sau subliminale cu scopul de a-i impinge pe utilizatori sa faca cumparaturi.


7. EXPLOARAREA VULNERABILITATILOR LEGATE DE VARSTA SAU DIZABILITATI


O jucarie care incorporeaza AI si care este conceputa pentru ca sa interactioneze cu copiii este interzisa, daca este conceputa cu scopul de a le pastra atentia si de a-i incuraja la provocari riscante, care i-ar putea rani.


8. DEDUCEREA OPINIILOR POLITICE SAU ORIENTARII SEXUALE IN FUNCTIE DE DATE BIOMETRICE


Un sistem care pretinde ca poate ghici opiniile politice sau orientarea sexuala a persoanelor pe baza analizei fetei acestora nu va fi autorizat in UE.

Vezi si