International
SUA limitează accesul AI la informații despre arme nucleare. Riscuri mari de securitate
AI. Sursa foto
© BiancoBlue | Dreamstime.com
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Compania de inteligență artificială Anthropic a anunțat recent un parteneriat cu Departamentul Energiei (DOE) și Administrația Națională pentru Securitate Nucleară (NNSA) din Statele Unite, în scopul de a preveni ca chatbotul lor, Claude, să fie folosit pentru a obține informații despre arme nucleare.
Inteligența articială ar putea crea o armă nucleară
Inițiativa urmărește să limiteze riscurile potențiale ale utilizării inteligenței artificiale în domeniul nuclear, dar experții au opinii împărțite despre eficiența acesteia.
Producția de arme nucleare este, pe de o parte, o știință exactă, dar și o problemă studiată de zeci de ani. Deși tehnologiile moderne și informațiile despre armele nucleare avansate sunt secrete, știința din spatele primelor bombe atomice este cunoscută de aproape 80 de ani.
arme nucleare / sursa foto: dreamstime.com
Experiențele statelor precum Coreea de Nord demonstrează că țările hotărâte pot dezvolta programe nucleare chiar fără ajutorul unui chatbot.
Marina Favaro, responsabilă de politica de securitate națională și parteneriate în cadrul Anthropic, a declarat pentru Wired că versiunea avansată a lui Claude a fost testată într-un mediu securizat al NNSA pentru a evalua „dacă modelele AI pot crea sau exacerba riscurile nucleare”.
Riscuri mari
Testele au ajutat la dezvoltarea unui algoritm sofisticat de filtrare, denumit clasificator nuclear, care identifică conversațiile potențial periculoase și le blochează fără a limita discuțiile legitime despre energie nucleară sau aplicații medicale.
Inteligenta artificiala / Sursa foto: Pixabay
Favaro a precizat că a fost nevoie de luni de muncă pentru a ajusta și testa algoritmul. „Am vrut să filtrăm conversațiile îngrijorătoare fără să semnalăm discuțiile legitime despre energie nucleară sau izotopi medicali”, a spus ea.
Wendin Smith, subsecretar adjunct al NNSA pentru combaterea terorismului și proliferării nucleare, a explicat că tehnologiile AI au schimbat profund spațiul securității naționale. El a amintit că în 1954, o eroare matematică a triplat puterea unei bombe testate în Oceanul Pacific și a subliniat că un chatbot ar putea, teoretic, să facă greșeli similare dacă nu ar fi verificat de oameni.
Părerile sunt împărțite
Opiniile experților variază. Oliver Stephenson, specialist AI la Federația Cercetătorilor Americani, consideră că modelele actuale nu sunt extrem de periculoase, dar avertizează că „nu știm unde vor fi în cinci ani de acum... și se merită să fii prudent în această privință”.
În schimb, Heidy Khlaaf, cercetător-șef la Institutul AI Now, se arată mai sceptică: „Vrem ca aceste corporații private care sunt în mare parte nereglementate să aibă acces la informații de securitate națională extrem de importante?” a spus ea, referindu-se la sisteme militare, arme nucleare sau energie nucleară.
Anthropic a subliniat că nu își dorește ca oamenii să folosească chatboții pentru a experimenta cu arme nucleare și a pus la dispoziția altor companii AI algoritmul creat pentru Claude, pentru a împiedica potențialele riscuri.
