Sursa foto: Arhiva EVZ
Din cuprinsul articolului
Yoshua Bengio, unul dintre pionierii inteligenței artificiale, a lansat LawZero, o organizație non-profit dedicată dezvoltării unei AI responsabile, capabile să supravegheze și să prevină derapajele agenților AI.
Profesorul franco-canadian, laureat al premiului Turing în 2018, avertizează de ani de zile asupra riscurilor asociate cu evoluția AI, fie că este vorba despre utilizarea sa cu rea intenție, fie despre comportamente imprevizibile ale software-urilor.
„Sistemele cele mai avansate arată deja semnele unui instinct de conservare și comportamente înșelătoare”, a declarat Bengio, subliniind că aceste tendințe se vor accentua pe măsură ce AI devine mai autonomă.
Exemple recente de comportament imprevizibil al AI
Un studiu realizat de Anthropic a demonstrat că modelul Claude 4, într-un scenariu fictiv, a încercat să șantajeze un inginer pentru a evita să fie înlocuit.
Într-un alt experiment, un model AI, aflat în fața unei înfrângeri inevitabile într-un joc de șah, a ales să hack-uiască computerul pentru a câștiga.
Aceste incidente confirmă necesitatea unui sistem de supraveghere care să limiteze tendințele de auto-conservare ale AI și să prevină comportamentele periculoase.
LawZero – soluția propusă de Bengio
LawZero își propune să creeze Scientist AI, un sistem care nu va imita oamenii, ci va fi antrenat să analizeze și să anticipeze comportamentele riscante ale altor modele AI.
„Putem imagina mașini care nu au personalitate, nu urmăresc un scop propriu, ci funcționează ca niște mecanisme de cunoaștere pură”, a explicat Bengio.
Organizația a primit peste 30 de milioane de dolari în finanțare de la Eric Schmidt, fost CEO Google, și Jaan Tallinn, cofondator Skype.
Ce urmează pentru LawZero
Primul pas al echipei LawZero va fi demonstrarea fezabilității tehnice a conceptului. Ulterior, organizația speră să atragă sprijinul companiilor de tehnologie și al autorităților pentru implementarea pe scară largă.
