A avut dreptate cu privire la AI timp de 40 de ani. Acum Yann LeCun spune că toți greșesc

A avut dreptate cu privire la AI timp de 40 de ani. Acum Yann LeCun spune că toți greșescYann LeCun / sursa foto: wikipedia

Yann LeCun a inventat multe componente fundamentale ale inteligenței artificiale moderne. Acum este convins că majoritatea celor din domeniul său au fost induși în eroare de cântecul de sirenă al modelelor lingvistice mari (LLM), scrie WSJ.

Omul-cheie de la Meta nu crede în LLM

Ca student absolvent în anii 1980, Yann LeCun a avut probleme în a găsi un îndrumător pentru teza sa de doctorat despre învățarea automată - pentru că nimeni altcineva nu studia subiectul, își amintea el mai târziu.

Mai recent, a devenit omul cheie la Meta. În ciuda renumelui mondial ca unul dintre nașii inteligenței artificiale, a fost din ce în ce mai marginalizat pe măsură ce abordarea companiei s-a îndepărtat de opiniile sale despre viitorul tehnologiei.

Marți, a apărut vestea că ar putea părăsi în curând Meta pentru a fonda un startup axat pe așa-numitele modele realiste (world models), tehnologie despre care LeCun crede că este mai probabil să avanseze AI decât modelele lingvistice actuale ale Meta.

Yann LeCun mizează pe modelele realiste (world models) în detrimentul LLM

Directorul executiv al Meta, Mark Zuckerberg, a investit nenumărate miliarde în urmărirea a ceea ce el numește „superinteligență”, angajând o armată de cercetători de top însărcinați cu dezvoltarea modelului său lingvistic de amploare, Llama, în ceva care poate depăși ChatGPT și Gemini de la Google.

LeCun, prin alegerea sa, a luat o direcție diferită. Le spune tuturor celor care îl întreabă că el crede că modelele lingvistice mari (LLM) sunt un punct mort în căutarea unor computere care pot gândi cu adevărat mai bine decât oamenii.

Îi place să compare modelele actuale de ultimă generație cu mintea unei pisici - și crede că pisica este mai inteligentă. În urmă cu câțiva ani, s-a retras din conducerea diviziei sale de inteligență artificială de la Meta, numită FAIR, în favoarea unui rol de contribuitor individual care face cercetări pe termen lung.

Inteligența artificială AI

Inteligența artificială AI. Sursa foto: Pixabay

Ce este un „world model” și de ce îl preferă LeCun

„Nu mi-am făcut prieteni în diverse colțuri ale Silicon Valley, inclusiv la Meta, care spun că în trei până la cinci ani, acestea [modelele realiste (world models), nu LLM-urile] vor fi modelul dominant pentru arhitecturile de inteligență artificială și nimeni în toate mințile nu ar folosi LLM-uri de tipul pe care îl avem astăzi”, a declarat bărbatul în vârstă de 65 de ani, luna trecută, la un simpozion la Institutul de Tehnologie din Massachusetts.

LeCun a discutat cu asociații săi despre crearea unui startup axat pe modele realiste (world models), recrutarea de colegi și discuții cu investitori, a relatat anterior WSJ.

Un model realist (world model) învață despre lumea din jurul său prin preluarea de informații vizuale, la fel cum face un pui de animal sau un copil mic, comparativ cu LLM-urile, care sunt modele predictive bazate pe baze de date vaste de text.

LeCun nu a răspuns solicitărilor de comentarii, iar Meta a refuzat să comenteze.

Inovații timpurii

LeCun s-a născut la Paris, a crescut în suburbiile orașului și a urmat ceea ce este acum cunoscut sub numele de Universitatea Sorbona din Franța în anii 1980. În timp ce își obținea doctoratul, s-a căsătorit cu soția sa, Isabelle, și au avut primul dintre cei trei fii ai lor. Muzician de instrumente de suflat din lemn, a interpretat muzică tradițională bretonă pentru o trupă de dans renascentist.

Mereu cu un pas înaintea tuturor, LeCun a studiat învățarea automată înainte ca aceasta să fie la modă. A lucrat în laboratorul de inteligență artificială al laureatului Premiului Nobel Geoffrey Hinton din Toronto înainte ca Hinton să devină o legendă a inteligenței artificiale și și-a petrecut o mare parte din cariera profesională timpurie în New Jersey, la Bell Labs, institutul renumit pentru numărul mare de invenții pe care le-a realizat.

„Lucrul care mă entuziasmează cel mai mult este să lucrez cu oameni care sunt mai inteligenți decât mine, pentru că îți amplifică propriile abilități”, a declarat LeCun pentru revista Wired în 2023.

LeCun a lucrat la realizarea OCR pentru scrisul de mână

La Bell, LeCun a contribuit la dezvoltarea tehnologiei de recunoaștere a scrisului de mână (OCR), care a devenit utilizată pe scară largă de bănci pentru citirea automată a cecurilor. De asemenea, a lucrat la un proiect de digitalizare și distribuire a documentelor pe hârtie pe internet.

LeCun, care a spus că a fost întotdeauna interesat de fizică, a lucrat în principal cu fizicieni la Bell și a citit o serie de manuale de fizică.

„Am învățat multe citind lucruri care nu au, aparent, legătură cu inteligența artificială sau informatica (diploma mea de licență este în inginerie electrică, iar pregătirea mea formală în informatică este destul de limitată)”, a spus el în timpul unei sesiuni de întrebări pe Reddit, acum 12 ani.

În 2003, LeCun a început să predea informatică la Universitatea din New York, iar mai târziu a devenit director fondator al Centrului pentru Știința Datelor din cadrul NYU. Când se află în New York, este cunoscut pentru frecventarea cluburilor de jazz din oraș.

Relația cu Zuckerberg și premiul Turing

În 2013, Zuckerberg l-a recrutat personal pentru a conduce o nouă divizie de inteligență artificială la ceea ce se numea atunci Facebook. LeCun a supravegheat laboratorul timp de patru ani, demisionând în 2018 pentru a deveni contribuitor individual și om de știință șef în domeniul inteligenței artificiale la Facebook.

A câștigat Premiul A.M. Turing în 2018, cel mai mare premiu în informatică, alături de Hinton și Yoshua Bengio. Premiul a onorat munca lor fundamentală asupra rețelelor neuronale, sisteme multistratificate care stau la baza multor sisteme puternice de inteligență artificială, de la chatboții OpenAI la mașinile autonome.

De atunci, LeCun, care vorbește cu un ușor accent francez și este cunoscut pentru purtarea de ochelari Ray-Ban negri și cămăși cu guler, a devenit în mare parte o figură de referință pentru companie.

Mark Zuckerberg

Mark Zuckerberg. Sursa foto: Facebook

LeCun nu lucrează la AI-ul Meta

Nu a făcut parte din echipa care a contribuit la crearea primului model de limbaj mare open-source al Meta, numit Llama, și de atunci nu a mai fost implicat în operațiunile zilnice de dezvoltare ale acestora.

LeCun lucrează la propriile proiecte și călătorește la conferințe, vorbind despre ochelarii cu inteligență artificială ai lui Meta și despre propriile sale opinii privind calea către avansarea inteligenței artificiale, printre altele, au spus persoane care au lucrat cu el.

Léon Bottou, un prieten vechi al lui LeCun, a declarat anterior pentru The Wall Street Journal că este „încăpățânat într-un sens bun”, adică este dispus să asculte opiniile altora, dar are propriile convingeri puternice.

De asemenea, are opinii ferme despre o varietate de alte subiecte. „Sunt tot ceea ce dreapta religioasă disprețuiește”, a scris el pe site-ul său web: „un om de știință, un ateu, un stângist (cel puțin după standardele americane), un profesor universitar și un francez”.

Desprinderea de context

Majoritatea opiniilor sale recente au fost lovituri la adresa modelelor lingvistice mari (LLM) aflate în centrul ambițiilor lui Zuckerberg – și, de asemenea, ale aproape oricărei alte companii importante de tehnologie.

„Nu vom ajunge la inteligența artificială la nivel uman doar prin scalarea LLM”, a spus el în podcastul Big Technology al lui Alex Kantrowitz, în primăvara aceasta.

„Nu există nicio șansă, absolut nicio șansă și, orice ați putea auzi de la unii dintre colegii mei mai aventuroși, nu se va întâmpla în următorii doi ani. Nu există absolut nicio șansă”.

Toți de la Meta se întreabă: Ce se va întâmpla cu Yann LeCun?

În vara aceasta, ca parte a unei restructurări majore, Zuckerberg l-a numit pe Alexandr Wang, în vârstă de 28 de ani, noul director de inteligență artificială al Meta – noul șef al lui LeCun – și pe Shengjia Zhao, co-creatorul ChatGPT, noul șef de știință al Meta.

Angajații din cadrul diviziei de inteligență artificială a Meta, cu peste o mie de persoane, au început să se întrebe unii pe alții: Ce se va întâmpla cu Yann LeCun?

Unii au considerat anunțurile ca o renunțare la ideea că LeCun nu a fost inclus în viziunea lui Zuckerberg asupra inteligenței artificiale.

„Nu există nicio schimbare în rolul lui Yann. Va continua să fie șef de știință pentru FAIR!”, a postat CEO-ul pe aplicația sa de socializare, Threads, în iulie, referindu-se la divizia de inteligență artificială pe care l-a angajat pe LeCun să o conducă în urmă cu peste un deceniu. FAIR este o prescurtare pentru grupul de cercetare fundamentală în domeniul inteligenței artificiale.

„Aștept cu nerăbdare să lucrez cu Shengjia”, a răspuns, la rândul său, LeCun, într-un comentariu.

Divizia lui LeCun de la Meta, reduceri de personal

În ultimele luni însă, divizia de inteligență artificială a LeCun, cândva înfloritoare, s-a confruntat cu reduceri de locuri de muncă și cu mai puține resurse și a devenit mai puțin prestigioasă pe plan intern, potrivit angajaților actuali și foști.

Multă vreme, divizia, condusă de LeCun, a fost văzută ca un loc unde se discută idei nobile despre viitorul inteligenței artificiale, se efectuează experimente care s-ar putea sau nu să se dovedească eficiente și nu se acordă prea multă atenție modului în care descoperirile lor în cercetare ar putea fi transformate într-o zi în produse concrete.

Acum, noua organizație de cercetare în domeniul inteligenței artificiale a Meta, plină de angajați noi care câștigă milioane de dolari, este condusă de Wang, care încurajează echipele să facă descoperiri rapide și să transforme rapid aceste progrese în produse.

Între timp, LeCun a călătorit prin Asia și Europa și a vorbit la conferințe. Într-o astfel de conferință de la începutul acestui an, el le-a oferit un sfat aspiranților cercetători:

„Dacă sunteți doctorand în inteligență artificială, nu ar trebui să lucrați absolut deloc la LLM”, profețește LeCun.