International
Liderii marilor companii AI avertizează asupra unui pericol care ar putea schimba lumea
AI secventiere AND / sursa foto: chatgpt
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Lideri de top din domeniul inteligenței artificiale (AI) se alătură experților în securitate pentru a cere Congresului SUA să se protejeze împotriva amenințărilor biologice reprezentate de AI, contribuind astfel la presiunea tot mai mare asupra legislatorilor pentru a aborda riscurile tehnologiei, potrivit WSJ.
Avertismentul liderilor din industria AI
Trei directori executivi importanți - Sam Altman de la OpenAI, Dario Amodei de la Anthropic și Demis Hassabis de la laboratorul DeepMind AI al Google - se numără printre semnatarii unei scrisori care îndeamnă Congresul să impună măsuri de siguranță atunci când companiile comandă ADN și ARN sintetic, un pas cheie în dezvoltarea anumitor vaccinuri și descoperiri biotehnologice.
Scopul este de a determina companiile care vând acizii nucleici sintetici să filtreze comenzile clienților pentru a bloca orice combinații care ar putea fi periculoase și să se asigure că cei care plasează comenzile sunt entități legitime.
Deși preocupările sunt de lungă durată în industria biotehnologiei, AI le amplifică, oferind potențialilor infractori instrumentele necesare pentru a declanșa noi agenți patogeni.
AI și armele biologice
„Sistemele de AI se îmbunătățesc rapid și, pe lângă beneficiile incredibile pentru știință și medicină, există o posibilitate reală ca barierele de cunoaștere care au împiedicat în mod tradițional actorii rău intenționați să obțină arme biologice să se erodeze semnificativ”, se arată în scrisoare.
Întâlnirea a fost organizată de două grupuri de experți axate pe tehnologie, care au declarat că subiectul este o sursă rară de acord între libertarieni, progresiști, cercetători și directori rivali.
Scrisoarea vine după ce președintele Donald Trump a semnat, marți, un ordin executiv contestat, axat în general pe supravegherea modelelor și securitatea cibernetică, o schimbare de la abordarea anterioară a administrației față de inteligența artificială.
Sam Altman s-a întâlnit miercuri cu oficiali ai Casei Albe și cu parlamentari pentru a discuta propunerea companiei privind cerințe mai stricte pentru dezvoltatorii de modele. OpenAI a anunțat recent un nou program bazat pe modelul său axat pe știință, pentru a colabora cu guvernul federal pentru prevenirea riscurilor biologice.
Consens cu privire la pericolul secvențierii ADN/ARN cu AI
Altman și Amodei sunt adesea în dezacord cu privire la politica privind inteligența artificială, Anthropic susținând de obicei reglementări mai stricte decât alții din industrie.
Demis Hassabis este creditat cu faptul că a ajutat Google, compania Alphabet, să recupereze terenul pierdut în cursa tehnologică și a împărțit Premiul Nobel din 2024 pentru munca sa la o platformă de inteligență artificială care poate prezice structura unei proteine și poate accelera descoperirea de medicamente.
Printre alți semnatari se numără Mustafa Suleyman, care conduce activitatea Microsoft în domeniul inteligenței artificiale, și Alexandr Wang, directorul de inteligență artificială al Meta Platforms.
ADN / Sursă foto: Freepik
Administrația Trump, pe cale să redacteze reglementări
Trump a revocat anterior un ordin executiv din epoca Biden care a dus la un cadru de screening pentru sinteza genelor. Casa Albă a declarat anul trecut că va înlocui cadrul Biden cu propriile ghiduri de screening, dar nu a publicat încă o politică de înlocuire. Un oficial al Casei Albe a declarat că administrația se angajează să echilibreze inovația și siguranța.
Susținătorii verificării au declarat că, în cazul Congresului, aceasta ar trebui să adopte o lege care să se aplice tuturor cumpărătorilor de acizi nucleici sintetici, nu doar celor care efectuează verificări în mod voluntar sau celor care primesc finanțare federală și sunt cei mai afectați de ordinele executive. Au fost propuse mai multe proiecte de lege care includ această prevedere, dar acestea nu au câștigat teren.
Insistențe pentru verificarea utilizării AI în biologie
Oponenții au spus că este subiectiv ce combinații de acizi nucleici sunt considerate periculoase și avertizează că noile costuri ale conformării ar putea afecta startup-urile.
Aceste costuri merită, având în vedere riscurile prezentate de armele biologice, a declarat Dean Ball, fost consilier Trump pe probleme de inteligență artificială, acum la think tank-ul Foundation for American Innovation, care a contribuit la redactarea scrisorii.
„Dacă sintetizați substanța care produce viață biologică și virusuri, vă rugăm să verificați pentru a vedea dacă este periculoasă într-un fel”, a spus el. „Pare un lucru rezonabil pentru ca societatea să insiste asupra acestuia”, a adăugat Dean Ball.
SI inteligenta sintetica / sursa foto: AI
De ce e periculoasă secnețierea ADN și ARN asistată de AI
Secvențierea ADN/ARN asistată de AI și, mai ales, proiectarea sau sinteza de secvențe biologice cu ajutorul AI sunt considerate sensibile deoarece pot accelera atât cercetarea benefică, cât și activități care implică riscuri biologice.
Principalele pericole sunt:
1. Crearea mai rapidă a agenților patogeni periculoși
Modelele AI pot analiza cantități uriașe de date genetice și pot identifica modificări care influențează proprietăți precum transmisibilitatea, stabilitatea sau capacitatea de a evita răspunsul imun. Acest lucru ridică preocupări că tehnologia ar putea fi folosită pentru a proiecta organisme mai periculoase.
2. Reducerea barierei de expertiză
În trecut, biologia sintetică avansată necesita ani de pregătire. Instrumentele AI pot automatiza părți din analiză și proiectare, permițând unor persoane cu mai puțină experiență să realizeze activități care înainte necesitau echipe specializate.
3. Identificarea vulnerabilităților biologice
AI poate găsi relații complexe între gene, proteine și boli. Această capacitate este valoroasă pentru medicină, dar ar putea fi folosită și pentru a identifica puncte vulnerabile ale organismelor, inclusiv ale oamenilor, animalelor sau culturilor agricole.
4. Sinteza ADN devine mai accesibilă
Costul producerii ADN sintetic a scăzut dramatic în ultimele două decenii. Combinarea AI cu servicii comerciale de sinteză genetică poate accelera procesul de proiectare și testare a unor secvențe biologice noi.
5. Erori greu de anticipat
Chiar și în scopuri legitime, AI poate sugera modificări genetice ale căror efecte secundare nu sunt complet înțelese. Sistemele biologice sunt extrem de complexe, iar o schimbare aparent minoră poate avea consecințe neașteptate.
Beneficiile secvențierii cu AI și măsurile de control propuse
Aceeași tehnologie de secvențiere a ADN sau ARN cu ajutorul inteligenței artificiale aduce însă și beneficii însemnate. Aceasta poate:
- accelera dezvoltarea vaccinurilor;
- identifica noi antibiotice;
- ajuta la diagnosticarea bolilor genetice;
- proiecta terapii personalizate;
- îmbunătăți culturile agricole;
- contribui la combaterea cancerului și a bolilor rare.
De exemplu, instrumente AI precum cele dezvoltate de Google DeepMind pentru proiectarea proteinelor au redus semnificativ timpul necesar înțelegerii structurii proteinelor, un progres major pentru biologie și medicină.
Cum se încearcă limitarea riscurilor
Multe companii care sintetizează ADN verifică comenzile pentru a detecta secvențe asociate cu agenți patogeni periculoși. De asemenea, guvernele și organizațiile internaționale dezvoltă reguli pentru utilizarea responsabilă a AI în biologie.
Pe scurt, problema nu este că AI poate „crea viruși” în mod magic, ci că poate accelera analiza și proiectarea biologică într-un domeniu în care greșelile sau utilizările abuzive pot avea consecințe serioase pentru sănătatea publică și securitatea biologică.
Recomandările noastre
