„Altruismul Eficient”, ideologia „Woke” și schemele șefilor AI. Ce scheme se află în spatele avertismentelor apocaliptice

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Ideea lui Dario Amodei, CEO al Anthropic, este să folosească o echipă externă de radicali de extremă stânga „Woke”, asociați unei ideologii numite „Altruismul Eficient”, pentru a reglementa AI și să se asigure că inteligența artificială nu „distruge lumea”. Este un grup de activiști care susțin idei radicale precum „granițe deschise”, pronume fără gen și promovează „altruismul eficient”, și care cred că toate problemele lumii pot fi rezolvate cu ajutorul tehnologiei, potrivit The New York Post.

Ce este „Altruismul Eficient”

Într-un eseu bombastic intitulat „Trebuie să controlăm frontiera”, Dario Amodei a susținut că firmele de AI de top ar trebui să se angajeze să permită „evaluatori terți încorporați” de la o organizație non-profit numită Model Evaluation and Threat Research, sau METR, care ar menține „accesul similar angajaților” pentru a supraveghea eforturile de siguranță și pentru a se asigura că modelele avansate de AI nu îl transformă în „Terminator” și nu „distrug umanitatea”.

Aspiranții de la METR pretind a fi complet independenți, dar grupul își are rădăcinile direct în figuri cheie ale „Altruismului Efectiv” (Effective Altruism), ideologie ai cărei adepți din Silicon Valley l-au inclus cândva pe șeful cripto discreditat Sam Bankman-Fried, unul dintre cei mai mari investitori timpurii ai Anthropic.

„Altruismul Eficient”, folosit pentru îmbogățire rapidă și dubioasă

„Altruismul Eficient”, o filozofie care a devenit populară printre stăpânii universului din Silicon Valley, pledează pentru utilizarea rațiunii - și a averilor acumulate de cei mai buni și mai străluciți din domeniul tehnologiei - pentru a face cât mai mult bine umanității pe termen lung.

În trecut, a fost folosit pentru a justifica câștigarea a cât mai multor bani posibil cu ideea că poți dona mai mult mai târziu pentru a face mai mult bine - deși mișcarea a suferit o lovitură grea atunci când unul dintre cei mai faimoși susținători ai săi, Bankman-Fried, și-a văzut imperiul cripto prăbușindu-se pe fondul acuzațiilor de fraudă care l-au trimis la închisoare.

sursa: Facebook

METR, legături profunde cu „Altruismul Eficient”

Suprapunerea dintre METR și Anthropic este plină de potențiale conflicte de interese, potrivit criticilor.

METR s-a desprins dintr-un incubator tehnologic aliniat cu „Altruismul Eficien”t, numit Alignment Research Center (ARC), condus de cercetătorul în inteligență artificială Paul Christiano. Acesta a fost coleg de apartament, coleg de muncă și colaborator de cercetare al lui Dario Amodei în anii 2010, când amândoi erau la OpenAI - cel mai mare rival al Anthropic.

Christiano a fost, de asemenea, unul dintre primii cinci administratori ai Trustului de Beneficii pe Termen Lung al Anthropic.

Un membru al personalului METR este Ajeya Cotra, căsătorită cu Christiano și o organizatoare importantă în lumea „Altuismului Eficient”.

Fondatoarea și CEO-ul grupului este Beth Barnes, angajată de Christiano și implicată în mișcarea „Altruismul Eficient” la facultate.

Șeful de cercetare Hjalmar Wijk și membrii personalului Megan Kinniment și Pip Arnott provin din același grup de cercetare de la Universitatea Oxford - un important furnizor de „Altruism Eficient”.

Ce spune METR despre aceste scheme subterane

Contactat telefonic, un oficial METR a recunoscut că organizația non-profit are multe suprapuneri cu „Altruismul Eficient”, dar a insistat că angajații săi au o gamă diversă de puncte de vedere ideologice. Aceștia sunt obligați să dezvăluie conflicte de interese, cum ar fi faptul că angajații dețin acțiuni în firmele pe care sunt desemnați să le investigheze.

„Nu credem că vreun grup mic ar trebui să aibă autoritate asupra a ceea ce se întâmplă cu inteligența artificială, iar obiectivul nostru este să aducem informații din interiorul acestor companii în domeniul public – anchetatorii externi pot ajuta la scoaterea la iveală a mai multor informații”, a declarat un purtător de cuvânt al METR într-un comunicat.

„Finanțatorii noștri nu au niciun cuvânt de spus în proiectele la care lucrăm și nu acceptăm nicio finanțare de la companii de inteligență artificială sau de la angajații acestora.”

Dario Amodei, legat strâns de „Altruismul Eficient”

Amodei, care s-a angajat să doneze 80% din averea sa personală, are legături strânse cu „Altruismul Eficient”. Sora sa, Daniela, s-a căsătorit cu Holden Karnofsky, fondatorul a două organizații non-profit importante ale „Altruismului Eficient”.

Implicarea METR este probabil un eșec pentru administrația Trump, care a avut o relație tensionată cu Anthropic în ultimul an și și-a exprimat, de asemenea, un scepticism puternic față de profeții „dezastrului AI”, care susțin că tehnologia este în pragul dezastrului.

„METR este, în esență, Anthropic într-o altă formă”, a declarat marți pentru The New York Post o sursă familiarizată cu gândirea Casei Albe.

Strângere de fonduri de milioane de dolari

Adepții obsedați de „Altruismul Eficient” cred în canalizarea averii lor către obiectivele pe care le consideră cele mai importante pentru umanitate, inclusiv schimbările climatice și reglementarea strictă a inteligenței artificiale.

De la înființare, METR și afiliații săi au primit finanțare de la lideri ai „Altruismului Eficient”, precum mega-donatorul democrat Dustin Moskovitz și cofondatorul Skype Jaan Tallinn - ambii fiind investitori Anthropic.

În august, METR a anunțat că a strâns 71 de milioane de dolari în finanțare nouă de la investitori externi în ultimele șase luni.

Fondul de Supraviețuire și Înflorire din Tallinn, un grup filantropic, a alocat până la 752.000 de dolari în finanțare pentru a sprijini METR de la înființarea sa, inclusiv 324.000 de dolari în numerar general și o promisiune de 428.000 de dolari, conform înregistrărilor publice.

În altă parte, Coefficient Giving, organizația lui Moskovitz – cunoscută anterior sub numele de Open Philanthropy, înainte de o schimbare de imagine grăbită anul trecut – a donat 1.515.000 de dolari incubatorului METR, ARC, în 2022. METR a fost inițial cunoscută sub numele de ARC Evals, înainte de a se transforma într-o organizație non-profit independentă și de a-și schimba numele actual în 2023.

hacker in spatele AI / sursa foto: arhiva EvZ

METR se laudă că nu primește bani de la laboratoarele AI, dar tocmai asta e dubios

METR nu ia nicio compensație de la laboratoarele de inteligență artificială pentru munca sa și nici nu ia donații de la directori sau angajați ai companiilor de inteligență artificială, a declarat oficialul METR. În cazul donației lui Moskovitz către ARC în 2022, oficialul a spus că finanțarea a fost protejată și nu a fost utilizată pentru operațiunile METR.

Acest lucru nu este deloc liniștitor pentru critici.

„A spune că vrei să fii auditat de oamenii «independenți» de la METR este o glumă completă”, a spus Perry Metzger, președintele Alliance for the Future, un grup de politici privind inteligența artificială cu sediul în Washington, DC. „Sunt oameni care sunt finanțați de prietenii tăi. Este complet ridicol.

„Dacă ai ieși mâine și ești o bancă mare și auditurile tale ți-ar fi făcute de o organizație formată în întregime din foștii tăi angajați, care a fost finanțată de aceiași investitori care investesc în tine, știi ce ar face federalii cu tine?”, a adăugat el. „Ar fi absolut medieval.”

Ce ascund avertismentele apocaliptice ale lui Dario Amodei

Propunerea surpriză a lui Amodei, publicată sâmbătă dimineața trecută, a venit la doar câteva zile după ce Jacob Coxon, un cercetător Anthropic care a lucrat anterior la OpenAI, a părăsit brusc firma, avertizând în același timp că ambii giganți ai inteligenței artificiale „își joacă viața” urmărind progresul fără o supraveghere adecvată.

Fără măsuri de siguranță implementate, Amodei a avertizat că internetul ar putea fi depășit de roboții de inteligență artificială în termen de șase până la 12 luni, „putând cauza pagube de sute de miliarde de dolari”.

Avertismentele apocaliptice au fost puternic respinse în unele colțuri ale lumii tehnologice și politice, președintele Trump afirmând că acestea sunt o „farsă”, iar startup-urile mai mici din domeniul inteligenței artificiale susținând că lideri precum Anthropic și OpenAI încearcă doar să rescrie legea în beneficiul lor.

„Țarul AI” David Sacks: Încetați să vă prefaceți că motivația e pur altruistă!

Printre sceptici s-a numărat și fostul țar al inteligenței artificiale de la Casa Albă, David Sacks, care i-a cerut companiei Amodei să „înceteze să se prefacă că METR este independent atunci când este intervievat cu investitorii și personalul Anthropic”.

„Mai presus de toate, încetați să vă prefaceți că motivația de a încetini este pur altruistă”, a adăugat el. „Vă confruntați cu o expunere masivă la răspundere pentru produse dacă produsele dumneavoastră permit un atac cibernetic cu adevărat dăunător”.

De asemenea, nu este clar dacă eforturile industriei inteligenței artificiale de a se auto-supraveghea vor fi acceptate de autoritățile de reglementare din SUA.

Președintele Comisiei Federale pentru Comerț, Andrew Ferguson, a avertizat că „toată lumea ar trebui să fie profund suspicioasă” față de orice solicitare de a acorda companiilor de inteligență artificială o scutire antitrust pentru a coordona eforturile de siguranță.

„Însă, în general, voi spune că, dacă companiile vin simultan la Washington și solicită o serie de reglementări și o scutire antitrust, toate clopotele mele de alarmă se declanșează”, a spus Ferguson în timpul unui eveniment de marți la Universitatea Georgetown.

Ce a propus Amodei, de fapt

Conform propunerilor lui Amodei, evaluatorii terți – pe care unii i-au asemănat cu inspectorii nucleari – ar „verifica respectarea practicilor și angajamentelor de siguranță, ar raporta incidentele și ar ajuta la evaluarea alinierii nu doar a modelelor de inteligență artificială finalizate, ci și a proceselor și proceselor de instruire”, se arată în eseul său.

„Anthropic se angajează unilateral să ia această măsură acum”, a scris Amodei. „Intenționăm ca aceasta să facă parte dintr-un efort mai amplu de a intensifica eforturile noastre în ceea ce privește siguranța și alinierea.”

Sam Altman de la OpenAI a declarat că este de acord cu Amodei în ceea ce privește „nevoia de a accelera frontiera” – adăugând că „angajamentul de a avea evaluatori independenți cu acces similar celui al angajaților este o idee grozavă și vom face același lucru”. Nu a menționat METR. Anthropic a refuzat să comenteze.