În ultimele luni tehnologiile AI au fost „în lumina reflectoarelor”, această nișă fiind dezvoltată intens. Avem chatboți, generatoare de imagini pe bază de text, dar și deepfakes care fac deja victime, AI-ul fiind folosit atât în scop bun, cât și în scop rău. Ei bine, aflăm prin intermediul Digi24.ro că Parlamentul European a adoptat miercuri o lege importantă care reglementează aceste tehnologii de inteligență artificială. Mai jos am detalii.
Legea a fost votată intens în parlament, 523 de parlamentari fiind pentru, 46 împotriva, dar au existat și 49 de abțineri. Textul legii reglementează utilizarea inteligenței artificiale (AI) și vorbim chiar despre o legislație unică în lume pentru moment. Textul de lege urmărește protejarea drepturilor fundamentale, democrația, statul de drept și sustenabilitatea mediului în fața sistemelor AI cu grad ridicat de risc. Actul normativ vizează, totodată, încurajarea inovației și asigurarea unui rol de lider în domeniu pentru Europa.
În funcție de riscurile potențiale ale tehnologiilor AI existente, regulamentul impune și obligații.
Utilizarea inteligenței artificiale
Normele adoptate interzice utilizarea inteligenței artificiale care amenință drepturile cetățenilor, inclusiv sistemele biometrice de clasificare bazate pe caracteristicile sensibile ale persoanelor. Se interzice inclusiv extragerea fără scop precis a imaginilor faciale de pe internet ori din înregistrările camerelor video cu cirucit închis pentru a crea baze de date de recunoaștere facială.
Nu sunt permise tehnologii de recunoaștere a emoțiilor la locul de muncă și în școli sau atribuirea unui așa-zis „punctaj social”. Vorbim practic despre AI care manipulează comportamentul uman și exploatează comportamentul oamenilor.
Restricții
Apar și restricții ce interzic folosirea sistemelor de identificare biometrică de către organele de aplicare a legii. Sunt totuși situații enumerate în mod exhaustiv și definite în mod strict în care pot fi folosite. Sistemele de identificare „în timp real” pot fi instalate doar dacă se respectă garanții stricte (dacă folosirea lor e limitată în timp și geografic și este aprobată de o autoritate juridică).
Folosirea acestor sisteme post-facto, respectiv sistemele de identificare biometrică „ulterioară”, este considerată un caz de utilizare cu grad ridicat de risc şi este posibilă doar în virtutea emiterii unei autorizaţii judiciare legate de o infracţiune penală
Există și câteva obligații pentru cei ce aleg să folosească AI în domeniul de activitate din cauza potențialului ridicat de a afecta negativ sănătatea, siguranță, drepturile fundamentale, mediul. Iată câteva exemple:
- Educația
- Formarea profesională
- Servicii publice și private esențiale (sănătate, servicii bancare)
- Sisteme folosite de organele de aplicare a legii
- Migrația și gestionarea frontierelor
- Justiția și procesele democratice
Sistemele trebuiesc evaluare pentru ca riscurile să fie reduse. De asemenea, cei ce le utilizează trebuie să mențină așa-numite „fișiere de jurnalizare” care permit înregistrarea automată a evenimentelor, să fie transparente și precise și să facă obiectul supravegherii umane.
Legea Deepfake
Foarte importantă e legea deepfake. Sistemele AI de uz general și modelele de AI pe care se bazează această tehnologie trebuie să respecte anumite cerințe în materie de transparență, inclusiv legislația UE în domeniul drepturilor de autor și publicarea unor rezumate detaliate ale conținutului utilizat la antrenarea modelelor AI.
La nivel naţional va fi obligatoriu să se creeze spaţii de testare în materie de reglementare şi să se organizeze testări în condiţii reale. IMM-urile şi companiile nou-înfiinţate vor trebui să aibă acces la aceste instrumente pentru a dezvolta şi antrena AI inovatoare, înainte de introducerea lor pe piaţă.
În plus, imaginile şi conţinuturile audio şi video artificiale sau manipulate (de tip deepfake) trebuie să fie etichetate clar ca atare.
Eurodeputatul Dragoş Tudorache, coraportor pentru acest dosar, a spus că legea se va aplica în toate statele membre, inclusiv în România. Acesta a declarat:
„În sfârşit, avem prima lege obligatorie din lume privind inteligenţa artificială, pentru a reduce riscurile, a crea oportunităţi, a combate discriminarea şi a aduce transparenţă. Datorită Parlamentului, practicile inacceptabile în domeniul Ai vor fi interzise în Europa, iar drepturile lucrătorilor şi ale cetăţenilor vor fi protejate. Oficiul pentru AI va fi acum înfiinţat pentru a sprijini companiile să înceapă să respecte normele înainte ca acestea să intre în vigoare”
Totodată, acesta a precizat că noua lege prevede amenzi foarte mari, „de până la 7% din venitul global” şi că are „dinţi suficient de ascuţiţi încât să convingă pe cei care ar putea să încerce eludarea ei”.
Când intră în vigoare legea?
Regulamentul adoptat miercuri de către Parlamentul European este verificat în prezent de juriștii-lingviști și se preconizează că va fi adoptată înainte de sfârșitul legistaturii. Legislația mai trebuie totuși adoptată și de către Consiliul UE.
Va intre în vigoare la 20 de zile după publicarea în Jurnalul Oficial și va fi pe deplin aplicabilă la 24 de luni după intrarea în vigoare, cu excepția interdicțiilor referitoare la practicile interzise, care se aplică începând cu șase luni de la data intrării în vigoare, a codurilor de bune practici și a normelor privind sistemele AI de uz general.
