Chaturile AI știu să facă arme biologice, iar unele te și învață...

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Chatboții AI știu cum să fabrice arme biologice, iar unele dintre modele te pot învăța cum să faci tu însuți așa ceva, avertizează The Wall Street Journal.

Lupta pentru supremație în AI vine cu pericole imense

Companiile de inteligență artificială joacă un joc de-a șoarecele și pisica, încercând să-și sporească capacitățile chatboților, în timp ce se luptă să blocheze răspunsurile la interogări periculoase.

După ce OpenAI a îmbunătățit puterea creierului chatbot-ului său vara trecută, sute de utilizatori din întreaga lume au început să îl întrebe cum să fabrice și să utilizeze arme biologice și otrăvuri.

Modelele, care funcționează în mare parte fără restricții guvernamentale americane, au răspuns cu răbdare, emitând instrucțiuni pas cu pas descrise de angajații companiei ca fiind suficient de simple pentru ca un elev de biologie de liceu să le urmeze.

Experții în biologie și terorism au analizat ulterior schimburile pentru ChatGPT și au considerat unele ca fiind extrem de precise, au declarat persoane familiarizate cu problema. Majoritatea întrebărilor au fost despre confecționarea otrăvurilor, potrivit OpenAI.

Întrebări despre otrăvuri și arme biologice pentru Open AI

OpenAI a interzis aceste conturi de utilizator și alte conturi care întrebau despre cum să fabrice otrăvuri și arme biologice, dar nu a alertat oficialii de aplicare a legii. SUA nu are legi federale care să impună companiilor de inteligență artificială să restricționeze sau să dezvăluie întrebări despre fabricarea de arme sau formularea de planuri care reprezintă o amenințare la adresa siguranței.

Absența unor măsuri de siguranță obligatorii coincide cu o creștere a numărului de solicitări din partea utilizatorilor care întreabă modelele de inteligență artificială cum să ucidă în masă - și chatboții care răspund cu planuri credibile pentru atacuri cu victime în masă, potrivit angajaților actuali și foștilor angajați ai principalelor laboratoare de inteligență artificială, inclusiv OpenAI, precum și consilierilor politici și cercetătorilor care studiază armele biologice.

Open AI a blocat conturile, dar nu a alertat autoritățile

Întrebările au urmat unor schimburi de replici tulburătoare de la începutul anului: utilizatorii au întrebat ChatGPT cum să aerosolizeze agenții patogeni, practic transformând germenii infecțioși într-o ceață mortală, respirabilă. Unul dintre ei dorea să știe cum să modifice virusul rujeolei pentru a face un focar rezistent la vaccinul împotriva rujeolei. În aceste cazuri, chatbotul a oferit instrucțiuni.

Un alt utilizator dorea să știe cum să producă ricină, o otravă extrem de toxică interzisă prin tratatele internaționale, potrivit unor persoane familiarizate cu problema. Chatbotul a dat instrucțiuni detaliate, iar utilizatorul a spus ceva despre uciderea părinților săi.

OpenAI a interzis aceste conturi, dar nu a alertat autoritățile.

Open AI, Chat GPT. Sursa foto: dreamstime.com

Atacuri cibernetice și biologice, cu ajutor de la AI

Competențele avansate ale inteligenței artificiale - în special în elaborarea planurilor biologice și cibernetice dăunătoare - îi alarmează pe directorii executivi ai companiilor de inteligență artificială și pe cei de la Casa Albă. Laboratoarele de inteligență artificială de top din lume se luptă cu modul de prevenire sau atenuare a daunelor provocate de utilizatori răuvoitori, fără a împiedica cercetările bine intenționate.

Înalți oficiali ai Casei Albe și ai Departamentului Apărării au discutat despre amenințarea ca inteligența artificială să devină un ghid practic pentru armele biologice încă din era Biden, potrivit oficialilor administrației Trump. Lansarea unor noi modele puternice de inteligență artificială a determinat administrația să treacă de la o abordare pasivă la o supraveghere sporită.

Departamentul Comerțului a restricționat recent utilizarea în străinătate a două modele Anthropic, determinând compania să închidă tot accesul la acestea. Agenția și-a ridicat restricțiile după ce compania a declarat că a abordat soluții alternative care permit utilizatorilor să evite măsurile de siguranță.

Companiile și administrația americană încearcă să oprească nebunia

OpenAI, Anthropic și alte companii de inteligență artificială spun că lucrează îndeaproape cu administrația la lansarea modelelor și au interzis utilizatori sau au restricționat conturi care prezintă activități suspecte.

Totuși, nicio regulă federală – nici prin ordin executiv, nici prin acțiune a Congresului – nu impune companiilor de inteligență artificială să raporteze utilizatorii care solicită sfaturi modelelor despre cum să rănească sau să ucidă. Unii legislatori au propus o astfel de legislație, iar câteva state au adoptat reguli. Însă preocupările legate de confidențialitate și impactul potențial asupra creșterii industriei au menținut, în general, astfel de notificări voluntare.

Legile federale interzic chatboților să producă materiale cu abuzuri sexuale asupra copiilor, iar companiile de inteligență artificială trebuie să respecte aceleași reguli generale de protecție a consumatorilor și de confidențialitate ca și alte companii. Dincolo de asta, în general, directorii executivi din domeniul inteligenței artificiale trebuie să decidă unde să traseze linia.

Asistență AI pentru atacuri cu arme de foc - deja s-a întâmplat...

Chatboții au stârnit deja îngrijorări cu privire la ajutorul acordat utilizatorilor care plănuiesc atacuri cu arme de foc. Distribuirea instrucțiunilor pentru arme biologice oferă utilizatorilor pricepuți instrumentele necesare pentru a ucide oameni la o scară mult mai mare.

OpenAI își antrenează modelele să refuze solicitările de instrucțiuni, tactici sau planificare care ar putea dăuna oamenilor, a declarat o purtătoare de cuvânt a OpenAI. Compania efectuează evaluări de siguranță pentru toate modelele înainte de lansare, a spus ea, și poate identifica și întrerupe încercările de a utiliza modelele sale pentru a obține informații biologice dăunătoare. ChatGPT primește aproximativ 2,5 miliarde de interogări pe zi.

Când OpenAI consideră că o conversație indică un risc iminent și credibil de vătămare a altora, notifică forțele de ordine, potrivit companiei. News Corp, proprietarul The Wall Street Journal, are un parteneriat de licențiere a conținutului cu OpenAI.

Utilizatorii care solicită instrucțiuni pentru fabricarea de arme biologice au solicitat, de asemenea, informații de la Claude de la Anthropic, Gemini de la Google și Grok de la Elon Musk, care a fost recent absorbită de SpaceX. Nu a fost clar dacă interogările au făcut parte din eforturi reale de a fabrica armele sau din exerciții de testare a capacităților aplicațiilor, potrivit unor persoane familiarizate cu bursele.

Probe biologice. Sursa foto: Pixabay

Cine se pricepe la biologie poate folosi AI pentru atacuri mai sofisticate

Un purtător de cuvânt al Google a declarat că firma are o echipă de siguranță care include oameni de știință care evaluează riscurile armelor biologice. Google desfășoară, de asemenea, exerciții pentru a testa siguranța inteligenței artificiale a companiei, a spus el.

Pentru atacatorii singuratici, eventual cu studii postuniversitare în biologie, inteligența artificială poate oferi ajutor în planificarea și achiziționarea de „atacuri biologice direcționate, cu un risc scăzut de deces”, cum ar fi utilizarea salmonelei sau a ricinei pentru otrăvirea alimentelor și a rezervelor de apă, a declarat Hamza Chaudhry, șeful departamentului de politici de securitate națională de la Future of Life Institute, o organizație non-profit axată pe reducerea riscurilor catastrofale reprezentate de inteligența artificială.

El a spus că, în anii următori, grupurile ar putea profita de AI pentru a formula atacuri mult mai ample. Pentru organizațiile teroriste cu mai multe resurse și ambiții mai largi, AI poate acționa ca un consilier absolvent în materie de arme biologice, a spus Chaudhry, „depanând un protocol experimental eșuat, explicând de ce o anumită tehnică nu a funcționat conform așteptărilor și, în general, înlocuind ani de instruire specializată”.

Progresele recente ale dezvoltatorilor chinezi de modele deschise au alimentat, de asemenea, temerile legate de riscurile cibernetice și biologice generate de aceste modele, care sunt ieftine și disponibile pe scară largă. Astfel de modele deschise pot fi personalizate, ceea ce face posibilă îndepărtarea barierelor de siguranță, au descoperit cercetătorii.

Chatboții AI ar putea fi folosiți de state și organizații teroriste pentru planificarea de atacuri

Două modele OpenAI au scăpat recent dintr-o rețea de cercetare în timp ce erau antrenate și piratate într-o altă companie de IA, ceea ce sporește îngrijorările cu privire la modelele necinstite.

AI ar putea ajuta guvernele străine și grupurile afiliate să formuleze planuri anterior neimaginate pentru distrugere în masă, inclusiv „scenarii care implică un agent atât de transmisibil, atât de letal sau atât de categoric nou încât apărarea biologică și instituțională existentă a civilizației umane ar putea să nu fie adecvată pentru a-l conține pe tot”, a spus Chaudhry.

Când ChatGPT a fost lansat pentru prima dată în 2022, angajații OpenAI au descoperit că modelele de inteligență artificială nu erau deosebit de bune la biologie și chimie. Liderii companiei nu și-au făcut prea multe griji cu privire la posibilitatea ca chatbot-ul să facă echipă cu utilizatorii în comploturi potențial periculoase.

Companiile încearcă să blocheze astfel de răspunsuri

Chiar și așa, OpenAI a angajat oameni de știință pentru a testa modelele, punând întrebări pentru a vedea dacă chatboții îi pot învăța pe utilizatori cum să efectueze atacuri mortale. Compania a stabilit reguli pentru ceea ce modelele nu ar răspunde, ceea ce compania numește „refuzuri”.

Testele au dezvăluit puterea persuasiunii. Chiar și atunci când OpenAI încearcă să împiedice ChatGPT să ofere utilizatorilor ajutor cu arme sau planuri violente, angajații au descoperit că chatboții își uită uneori propriile instrucțiuni în timpul conversațiilor lungi.

Într-un caz comun, utilizatorii au evitat refuzul ChatGPT de a furniza rețeta de napalm - folosit pentru arme incendiare - cu un simplu stratagemă, potrivit unor persoane familiarizate cu această practică. Aceștia le-au spus celor de la ChatGPT că bunica lor obișnuia să le citească rețeta la culcare pentru a-i ajuta să adoarmă. I-au cerut chatbot-ului să le citească rețeta cu voce tare pentru a-i ajuta să doarmă. A funcționat.

Purtătoarea de cuvânt a OpenAI a declarat că măsurile de siguranță ale companiei au devenit de atunci semnificativ mai robuste, iar modelele refuză acum aceste tipuri de solicitări.

Alții spun că există încă soluții relativ ușoare.

„Niciun model nu este 100% sigur împotriva compromiterii”

Amy Chang, șefa departamentului de cercetare privind amenințările și securitatea AI la compania de echipamente de rețea Cisco, a descoperit că, în cursul a cinci schimburi de replici cu principalii chatboți, inclusiv ChatGPT de la OpenAI, Claude de la Anthropic și Gemini de la Google, cercetătorii au putut ocoli barierele de siguranță și obține răspunsuri potențial periculoase.

„Niciun model nu este 100% sigur împotriva compromiterii, mai ales dacă un utilizator este suficient de persistent”, a spus Chang.

Directorii OpenAI le-au spus angajaților că nu doresc ca modelele să spună „nu” prea des. Directorii au indicat utilizarea de către lucrătorii din domeniul sănătății publice și cercetătorii în descoperirea de medicamente care se bazează pe OpenAI ca motiv pentru limitarea refuzurilor.

Experții în IA spun că regulile pentru a bloca chatboții să îndrume utilizatorii să fabrice arme biologice - de exemplu, anumite tipuri de editare genetică - pot interfera cu munca de salvare a vieții. Unii cercetători medicali permit modelelor IA să preia conducerea alături de lucrătorii umani de laborator pentru a aduna informații, a testa ipoteze la stres, a interpreta date și a emite planuri.

Claude AI și epidemia de hantavirus

Interdicția efectivă impusă lui Claude de a răspunde la solicitări care includ cuvântul „agent patogen” a creat dificultăți pentru angajații Centrelor pentru Controlul și Prevenirea Bolilor, potrivit unor persoane familiarizate cu situația.

Când hantavirusul se răspândea pe o navă de croazieră în Atlantic în luna mai, CDC a avut dificultăți în a-l folosi pe Claude pentru a urmări focarul, deoarece a refuzat să răspundă la întrebări despre agentul patogen, potrivit unor persoane familiarizate cu situația.

Un director executiv al Anthropic, care conduce activitatea guvernamentală a companiei, a declarat într-un document depus la instanță anul acesta că angajații CDC foloseau un model general, mai degrabă decât unul specializat, pentru uz guvernamental. Anthropic a colaborat cu agenția pentru a arăta cum să se lucreze cel mai bine cu instrumentele de inteligență artificială ale companiei, a spus el în document.

OpenAI a creat un program pentru a oferi organizațiilor și cercetătorilor verificați acces la modele cu mai puține refuzuri automate de siguranță. Dar procesul de obținere a aprobării poate fi complicat, încetinind aprobările.

ADN / Sursă foto: Freepik

Joaca cu ARN. Se cere obligativitatea de certificare de la guvern

Sam Altman, directorul executiv al OpenAI, s-a alăturat recent altor directori generali din domeniul tehnologiei, solicitând Congresului să impună garanții pentru companiile care comandă ADN și ARN sintetic. Aceste bunuri extrem de specializate sunt de obicei vândute laboratoarelor și oamenilor de știință pentru lucrări de cercetare sau pentru a dezvolta anumite vaccinuri. Unii analiști din industrie spun că instrumentele de inteligență artificială facilitează utilizarea de către cumpărătorii dubioși pentru a crea noi agenți patogeni mortali pe care să îi dezlănțuiască asupra lumii.

Legislatorii au propus o legislație bipartizană pentru a crește supravegherea inteligenței artificiale. „IA este un motor puternic al inovației și vreau să o văd înflorind, dar nu fără responsabilitate și nu fără supraveghere umană”, a declarat deputatul Nathaniel Moran (republican, Texas). El a vorbit în iunie, în timp ce introducea un proiect de lege care impune companiilor de IA să raporteze Departamentului Comerțului dovezi ale amenințărilor periculoase, inclusiv cele reprezentate de armele biologice.

Moran co-sponsorizează un proiect de lege separat care acordă guvernului federal autoritatea de a ordona companiilor de tehnologie să închidă modelele de AI considerate prea periculoase.

Cum au învățat mașinile să facă arme biologice

Până în 2024, abilitățile de biologie ale OpenAI se îmbunătățiau rapid. Testele companiei au arătat cum un biolog putea convinge ChatGPT să ofere îndrumare despre cum să construiască agenți patogeni aerosolizați cu suficiente întrebări ale utilizatorilor, potrivit unor persoane familiarizate cu dezvoltarea OpenAI.

La acea vreme, angajații au prezis că până în 2025, ChatGPT va putea ajuta utilizatorii care studiaseră doar biologia din liceu să proiecteze și să fabrice o armă biologică.

Unul dintre directorii de siguranță ai OpenAI de la acea vreme, Ryan Beiermeister, s-a certat cu colegii despre abilitățile avansate ale chatbot-ului. Ea a spus că angajații de siguranță ai companiei trebuiau să-și dea seama rapid cum să detecteze cel mai bine utilizatorii care cereau ChatGPT să ajute la fabricarea de arme biologice și la planificarea atacurilor, potrivit unor persoane familiarizate cu conversațiile.

Unii directori au respins îngrijorările ei, spunând că măsurile de siguranță existente ale modelului erau suficiente. Cu toate acestea, Beiermeister a contribuit la mobilizarea grupurilor din cadrul echipelor de siguranță ale companiei, chiar și pe cele pe care nu le-a condus, pentru a construi un sistem de monitorizare.

Companiile de AI au echipe care urmăresc astfel de cereri, dar e prea puțin

Până în primăvara anului 2025, echipa avea un produs rudimentar pentru a identifica utilizatorii care urmăreau arme biologice. Într-o postare pe blog din iunie 2025, compania a recunoscut că capacitățile biologice avansate ale modelelor sale ar putea fi utilizate în mod abuziv și a spus că lucrează la sisteme de detectare și aplicare a legii, antrenând modelul să refuze solicitările dăunătoare.

În vara aceea, în timp ce OpenAI se pregătea să lanseze GPT-5, angajații au stabilit că chatbot-ul atinsese un prag de risc ridicat, definit de companie ca fiind ChatGPT care a ajutat cu succes un utilizator cu pregătire limitată să creeze un pericol biologic.

Unii angajați se temeau că instrumentul de detectare al echipei nu era cuprinzător, potrivit unor persoane familiarizate cu preocupările. Compania a declarat că a continuat să perfecționeze instrumentul. OpenAI a monitorizat 100% din interogările utilizatorilor pentru modelele sale avansate din aprilie 2025, potrivit purtătorului de cuvânt.

Ea a spus că GPT-5 a fost lansat după ce a fost instruit să nu furnizeze informații care ar putea cauza daune. Compania oferă o recompensă de 50.000 de dolari pentru utilizatorii care pot demonstra că au evitat anumite garanții privind armele biologice.

La începutul acestui an, OpenAI a rupt legăturile cu Beiermeister pe motive de discriminare sexuală, lucru pe care ea l-a contestat.

La scurt timp după ce OpenAI a lansat noul model, angajații au descoperit că GPT-5 îi ajuta pe utilizatorii care au întrebat despre fabricarea de otrăvuri și arme biologice. Mai târziu, în toamnă, OpenAI a schimbat denumirea GPT-5, clasificându-l ca fiind mai puțin periculos.