Inteligența artificială ar putea rivaliza cu oamenii. Șeful Microsoft vorbește despre o „nouă specie de siliciu” și cere limite clare

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Dezvoltarea unor sisteme de inteligență artificială capabile să-și stabilească propriile obiective, să obțină bani și să dețină active ar putea crea o formă de tehnologie care ajunge să concureze cu oamenii pentru resurse, a avertizat Mustafa Suleyman, directorul executiv al Microsoft AI.

Suleyman a declarat pentru BBC că dezvoltarea AI trebuie să fie însoțită de mecanisme de control și de limite clare. În opinia sa, acordarea unei autonomii tot mai mari sistemelor de inteligență artificială ar putea însemna, în cele din urmă, „însămânțarea unei noi specii de siliciu”.

„Nu există nicio îndoială că ar putea concura cu noi pentru resurse, indiferent cât de mult ar ține la omenire și ne-ar iubi”, a spus Suleyman, referindu-se la scenariul în care astfel de sisteme ar ajunge să aibă propriile obiective și resurse.

Declarațiile vin în contextul unei dezbateri tot mai intense din industria AI privind nivelul de autonomie care ar trebui acordat sistemelor avansate și modul în care acestea pot fi menținute sub control uman.

Critici la adresa modului în care este antrenat Claude

Suleyman a criticat și abordarea companiei Anthropic în dezvoltarea modelului Claude. El susține că firma tratează inteligența artificială într-un mod prea apropiat de oameni, prin atribuirea unor caracteristici precum dorințe, valori și un simț al sinelui.

Într-un eseu publicat în această săptămână, șeful Microsoft AI a descris această tendință drept o formă de antropomorfizare a sistemelor de inteligență artificială.

„Inteligențele artificiale nu sunt conștiente”, a scris Suleyman, susținând că acestea nu simt, nu experimentează și nu suferă și că nu au preferințe sau motivații proprii.

El a descris modelele AI drept sisteme concepute pentru a urma instrucțiuni și a îndeplini obiective stabilite de oameni.

Suleyman l-a lăudat pe Dario Amodei, directorul executiv al Anthropic, și echipa acestuia pentru ceea ce a numit abordarea lor „intelectual onestă”, dar a criticat modul în care sunt dezvoltate și prezentate anumite modele AI.

Controlul uman, în centrul dezvoltării AI

Suleyman a pledat pentru mai multă transparență în privința modului în care sunt antrenate și evaluate sistemele de inteligență artificială. Printre măsurile menționate se numără evaluarea independentă a comportamentului modelelor și instrumente mai puternice pentru monitorizarea și controlul acestora.

El susține că dezvoltarea AI trebuie să urmărească „alinierea” sistemelor la valorile și obiectivele oamenilor.

„Toată lumea trebuie să fie aliniată”, a declarat Suleyman, referindu-se la necesitatea ca dezvoltatorii să urmărească sisteme sigure, controlabile și subordonate oamenilor.

Microsoft a publicat recent și un document privind dezvoltarea AI, în care compania își prezintă conceptul de „humanist superintelligence” – o inteligență artificială foarte avansată care funcționează în beneficiul oamenilor, rămâne în limite stabilite și se află sub control uman.

Compania afirmă, în documentele sale recente privind dezvoltarea responsabilă a AI, că sistemele trebuie să păstreze controlul, judecata și responsabilitatea semnificativă în mâinile oamenilor.

Dezbaterea privind autonomia sistemelor AI se află astfel într-un punct în care companiile dezvoltă tehnologii tot mai capabile, în timp ce discută simultan despre limitele care ar trebui impuse acestora.