Temerile apocaliptice ale câștigătorilor Premiului Nobel pentru Fizică: Inteligența artificială ar putea scăpa de sub control
- Maria Dima
- 12 octombrie 2024, 08:41
Academia Regală Suedeză de Ştiinţe de la Stockholm a decis, marţi, să acorde Premiul Nobel pentru Fizică 2024 cercetătorilor John J. Hopfield (SUA) şi Geoffrey E. Hinton (Canada) pentru descoperirile şi invenţiile fundamentale care permit învăţarea automată cu ajutorul reţelelor neuronale artificiale.
Cei doi cercetători au folosit instrumente din fizică pentru a construi metode care au contribuit la punerea bazelor învăţării automate puternice de astăzi. Hopfield a creat o structură care poate stoca şi reconstrui informaţii. Hinton a inventat o metodă care poate descoperi independent proprietăţi în date şi care a devenit importantă pentru marile reţele neuronale artificiale utilizate în prezent. Însă, ambii cercetători au tras un semnal de alarmă cu privire la tehnologia pe care au ajutat-o să o aducă la viață.
Premiul Nobel pentru Fizică. Îngrijorările câștigătorilor
Cercetările celor doi asupra rețelelor neuronale din anii 1980 au deschis calea pentru sistemele de învățare profundă de astăzi, care promit să revoluționeze societatea, dar au stârnit și temeri apocaliptice. „În aceleași circumstanțe, aș face același lucru din nou, dar sunt îngrijorat de faptul că consecința generală a acestui lucru ar putea fi sisteme mai inteligente decât noi care, în cele din urmă, să preia controlul”, a declarat Geoffrey E. Hinton, în vârstă de 76 de ani.
Cunoscut drept „nașul inteligenței artificiale”, Hinton a ridicat din sprâncene în 2023, când și-a dat demisia de la Google pentru a avertiza cu privire la „riscurile profunde pentru societate și umanitate” ale tehnologiei.În martie anul trecut, când a fost întrebat dacă IA ar putea distruge omenirea, Hinton a răspuns: „Nu este de neconceput”. Cei doi au fost premiați „pentru descoperirile și invențiile fundamentale care permit învățarea automată cu ajutorul rețelelor neuronale artificiale”, a anunțat juriul.
Inteligența artificială stârnește îngrijorări
Ellen Moons, președinta Comitetului Nobel pentru Fizică, a declarat, într-o conferință de presă, că aceste instrumente au devenit parte din viața noastră de zi cu zi, inclusiv în recunoașterea facială și traducerea limbilor străine. Deși a lăudat potențialul inteligenței artificiale, Moons a remarcat că dezvoltarea sa rapidă a ridicat, de asemenea, preocupări cu privire la viitorul nostru colectiv: „Oamenii poartă responsabilitatea de a utiliza această nouă tehnologie într-un mod sigur și etic”.
Hopfield, profesor emerit la Princeton, a fost evidențiat pentru că a creat „rețeaua Hopfield”, cunoscută și sub numele de memorie asociativă, care poate fi utilizată pentru „a stoca și a reconstrui imagini și alte tipuri de modele în date”. Fizicianul s-a alăturat lui Hinton în apelul pentru o înțelegere mai profundă a sistemelor moderne de inteligență artificială, pentru a le împiedica să scape de sub control, numind progresele recente ale tehnologiei „foarte enervante”.
„Nu știi dacă proprietățile colective cu care ai început sunt de fapt proprietățile colective cu toate interacțiunile prezente și, prin urmare, nu știi dacă un lucru spontan, dar nedorit, este ascuns în lucrări”, a declarat fizicianul.
„Excede capacitatea intelectuală a oamenilor”
Membrii juriului au spus că Hinton, profesor la Universitatea din Toronto, a folosit rețeaua Hopfield ca bază pentru o nouă rețea: „mașina Boltzmann”. Hinton a fost creditat cu inventarea „unei metode care poate găsi în mod autonom proprietăți în date și astfel poate îndeplini sarcini precum identificarea unor elemente specifice în imagini”. „Sunt uluit, habar nu aveam că acest lucru se va întâmpla”, a declarat Hinton reporterilor, în timp ce laureații erau anunțați la Stockholm. Hinton a mai spus că a fost un utilizator avid de instrumente AI, cum ar fi ChatGPT, și a precizat că el crede că tehnologia va avea o influență uriașă: „Va fi comparabilă cu revoluția industrială. Dar în loc să depășească oamenii în forță fizică, îi va depăși pe oameni în capacitatea intelectuală”.
Premierul canadian Justin Trudeau a salutat realizările conaționalului său. „Canada se află în fruntea tehnologiei IA datorită deschizătorilor de drumuri precum Dr. Hinton. Curiozitatea sa pentru descoperiri și contribuțiile la inovare vor inspira generațiile viitoare. În numele tuturor canadienilor, îl felicit pentru realizarea sa remarcabilă”, a transmis Trudeau, potrivit insiderpaper.com.