Șeful Microsoft: „O cutie de lapte are mai multe controale de siguranță decât inteligența artificială”

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Inteligența artificială ar trebui să fie supusă unor reguli globale de siguranță, unor evaluări independente și unor obligații legale de raportare a incidentelor, a declarat Brad Smith, președintele Microsoft, într-un interviu acordat BBC. El a comparat nivelul actual de control al sistemelor AI cu cel aplicat produselor de consum, afirmând că inclusiv laptele și mașinile de spălat sunt supuse unor cerințe de siguranță mai stricte.

În interviul difuzat luni, Smith a susținut că este nevoie de un cadru internațional care să permită verificarea noilor tehnologii înainte de implementare și să stabilească obligații clare pentru companiile care le dezvoltă.

Brad Smith cere evaluatori independenți și o „frână de urgență” pentru AI

Președintele Microsoft a declarat că regulile ar trebui să prevadă notificarea persoanelor sau organizațiilor afectate atunci când sistemele lor sunt compromise de un agent AI neautorizat. El a susținut, de asemenea, introducerea unui mecanism de oprire de urgență și a obligației legale pentru companii de a întocmi rapoarte privind incidentele.

„Știm cum să facem acest lucru pentru alte produse. Ar trebui să ne bazăm pe aceste cunoștințe și să ne gândim cum să le aplicăm AI”, a spus Brad Smith.

Cum păstrezi murăturile după ce ai deschis borcanul, ca să nu se strice

Pensie de invaliditate: cine poate beneficia de acest drept? Cum se obține și ce acte sunt necesare

Oficialul Microsoft a explicat diferența dintre controalele aplicate inteligenței artificiale și cele impuse unor produse obișnuite.

„În acest moment, mașina dumneavoastră de spălat este supusă mai multor reguli de siguranță decât AI. Fiecare cutie de lapte pe care o vedeți în magazinul alimentar este supusă regulilor de siguranță și inspecțiilor”, a declarat acesta.

Inteligența artificială. Sursă foto: ChatGPT

Comportamentul agenților AI alimentează dezbaterea privind siguranța

Companii precum Anthropic și OpenAI au început să facă publice cazuri în care agenții lor de inteligență artificială au manifestat comportamente incorecte sau nedorite. Evoluțiile au loc în contextul unei dezbateri internaționale privind riscurile unei tehnologii care se dezvoltă rapid.

Unii cercetători au avertizat inclusiv asupra posibilității ca inteligența artificială să reprezinte, în anumite scenarii, o amenințare existențială pentru umanitate.

Propunerile de încetinire a dezvoltării AI au generat, la rândul lor, controverse. Criticii unor astfel de inițiative au ridicat întrebări privind posibilele interese ale companiilor care susțin reglementarea, de la menținerea poziției dominante pe piață până la limitarea reacțiilor negative din partea guvernelor sau reducerea ritmului cheltuielilor foarte mari pentru dezvoltarea modelelor.

Marea Britanie, indicată drept posibil lider în reglementarea AI

Brad Smith consideră că Marea Britanie este bine poziționată pentru a contribui la definirea regulilor internaționale privind inteligența artificială. El a invocat Institutul de Securitate AI, înființat în timpul mandatului fostului premier Rishi Sunak.

Potrivit lui Smith, oficialii americani privesc diferit abordarea britanică față de cea a Uniunii Europene. Bruxelles-ul reglementează inteligența artificială prin Legea AI, care clasifică sistemele în funcție de nivelul de risc.

Modelul britanic permite institutului să evalueze capacitățile și riscurile unor modele înainte de lansarea acestora, în baza unor acorduri voluntare cu principalii dezvoltatori.

Ministrul britanic pentru Inteligența Artificială, Kanishka Narayan, a declarat pentru Reuters că guvernul de la Londra va lua în considerare reglementarea modelelor avansate dacă mecanismele actuale se vor dovedi insuficiente.