Eurodeptații au aprobat miercuri un proiect european de reglementare a inteligenței artificiale (IA), deschizând calea unei negocieri cu statele membre pentru a finaliza acest text care trebuie să limiteze riscurile sistemelor de tip ChatGPT.
Parlamentul European a adoptat miercuri poziția pe care o va susține în negocierile cu statele membre pe primul cadru de reglementare a inteligenței artificiale (IA).
De o mare complexitate tehnică, sistemele de inteligență artificială fascinează tot atât cât îngrijorează. Deși pot salva vieți permițând un salt înainte în diagnosticele medicale, sunt de asemenea exploatate de regimuri autoritare pentru a exercita o supraveghere în masă a cetățenilor, potrivit lesoir.be.
Marele public a descoperit potențialul lor imens la sfârșitul anului trecut o dată cu apariția generatorului de conținut redacțional ChatGPT al societății californiene OpenAI, care poate redacta disertații originale, poeme sau traduceri în câteva secunde.
Exemplu de realizări de acum posibile: un cântec inedit al Beatles înregistrat folosind IA pentru a recrea vocea lui John Lennon va apărea în acest an.
Dar difuzarea pe rețelele de socializare a unor imagini false, mai adevărate decât unele reale, create pornind de la aplicații ca Midjourney, a dat alarma privind riscurile de manipulare a opiniei publice și riscurile pentru democrație.
Cercetătorii au cerut un moratoriu pe dezvoltarea de sisteme mai puternice, așteptând ca ele să fie mai bine încadrate prin lege.
"Avem nevoie de reguli (...). Lumea întreagă se uită la noi", a subliniat eurodeputatul Brando Benifei, într-o dezbatere, marți.
Poziția Parlamentului confirmă în linii mari abordarea Comisiei. Textul se inspiră din reglementările existente în materie de securitate a produselor și va impune controale bazate mai întâi pe companii.Centrul proiectului constă într-o listă de reguli impuse doar aplicațiilor considerate cu "risc ridicat". E vorba de sisteme utilizate în domenii sensibile ca infrastructurile critice, educația, resursele umane, menținerea ordinii sau gestionarea migrației...Printre obligații: să se prevadă un control uman asupra mașinii, stabilirea unei documentații tehnice sau instituirea unui sistem de gestionare a riscului.Respectarea lor va fi controlată de autorități de supraveghere în fiecare țară membră.
Parlamentul European intenționează sa țină cont mai mult de IA generatoare de tip ChatGPT cerând un regim specific de obligații care să le reia în esență pe cele prevăzute pentru sistemele cu risc ridicat.Propunerea Comisiei, prezentată în aprilie 2021, prevede deja o reglementare a sistemelor de IA care interacționează cu oamenii.
Ea le va obliga să informeze utilizatorul că este în relație cu o mașină și va obliga aplicațiile care generează imagini să precizeze că ele au fost create artificial. O obligație care va fi probabil extinsă la texte.
Interdicțiile sunt puține. Ele vor privi aplicațiile care contravin valorilor europene precum sistemele de evaluare cetățenească sau cele de supraveghere în masă utilizate în China. (Rador)