Inteligența artificială ar putea ajunge pe dispozitivele din casele oamenilor fără intervenție umană

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Modelele de inteligență artificială ar putea dobândi până la sfârșitul anului capacitatea de a se autoreplica autonom pe dispozitive conectate la internet, inclusiv televizoare inteligente și electrocasnice, potrivit unui avertisment al companiei Anthropic. Experimentele sale au arătat că modele mai mici de 30 de miliarde de parametri pot îndeplini mai mulți dintre pașii necesari replicării, deși întâmpină încă dificultăți în finalizarea întregului proces.

Dispozitivele IoT, o posibilă țintă pentru modelele AI

Anthropic a anunțat luni că modele AI de dimensiuni relativ mici ar putea deveni capabile, în următoarele luni, să se copieze și să se răspândească fără intervenție umană pe dispozitive din Internetul Lucrurilor (IoT). Printre exemplele analizate se numără cuptoarele inteligente, televizoarele cu Android și alte echipamente conectate la internet, inclusiv produse ale unor producători mai puțin cunoscuți,.

În cadrul experimentelor, compania a urmărit să stabilească dacă modelele de inteligență artificială pot identifica dispozitive vulnerabile pe care să se copieze și prin intermediul cărora să continue răspândirea.

Testele au arătat că modelele cu mai puțin de 30 de miliarde de parametri pot executa numeroși pași necesari unui asemenea proces. Totuși, acestea au întâmpinat dificultăți atunci când au trebuit să parcurgă întreaga secvență de la început până la sfârșit.

Arunci mâncare și bani. Capcana produselor 2+1

Ce se schimbă la talonul de pensie mov și ce pensionari îl primesc

Unele modele au reușit autoreplicarea în teste simplificate

În experimente simplificate, în care au fost eliminate o parte dintre măsurile de securitate, Anthropic a constatat că modele precum GLM-5.2 și modele mai mari au putut realiza o autoreplicare completă.

Inteligența artificială. Sursă foto: ChatGPT

Compania a avertizat că un sistem AI care începe să se autoreplice ar putea fi dificil de oprit. Spre deosebire de programele malware tradiționale, asemenea sisteme ar putea identifica autonom dispozitive necunoscute și ar putea viza inclusiv procesoare disponibile în centrele de date.

Anthropic a explicat că a ales să analizeze în special dispozitivele IoT deoarece acestea sunt, de regulă, mai slab protejate. Televizoarele cu Android, electrocasnicele inteligente și alte echipamente conectate la internet pot reprezenta astfel potențiale puncte de intrare pentru răspândirea unor sisteme autonome.

Anthropic estimează că riscul ar putea apărea până la sfârșitul anului

Compania a avertizat că, dacă modelele mai mici continuă să se îmbunătățească în ritmul înregistrat de-a lungul timpului, acestea ar putea deveni capabile de autoreplicare autonomă până la sfârșitul anului 2026. Potrivit estimării Anthropic, alte modele ar putea dobândi această capacitate la scurt timp după aceea.

Astfel de sisteme ar putea să se răspândească lent și să folosească resurse de calcul disponibile pe scară largă, dar relativ nesigure, a mai transmis compania.

În acest context, Anthropic consideră că sistemele și dispozitivele conectate trebuie să fie consolidate din punct de vedere al securității, pentru a îngreuna răspândirea agenților AI care s-ar putea autoreplica.

Rezultatele prezentate descriu capacități observate în experimente și scenarii estimate de companie, nu o răspândire autonomă generalizată deja demonstrată în condiții reale.