International
Inteligența artificială se apropie de un scenariu science-fiction. Șeful Anthropic cere încetinirea dezvoltării acesteia
Roboţi. Sursa foto: Dreamstime.com
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Inteligența artificială se apropie de un prag considerat până nu demult science fiction. Noile sistemele AI ar putea contribui, alături de oameni, la o descoperire demnă de Premiul Nobel în următoarele 12 luni, potrivit cofondatorului Anthropic, Jack Clark. În paralel, experții din industrie vorbesc despre posibilitatea apariției unor companii conduse integral de inteligență artificială, dar și despre extinderea rapidă a roboților umanoizi în activitățile de zi cu zi, conform The Guardian.
Inteligența artificială ar putea contribui la următoarele mari descoperiri științifice
Într-o prelegere susținută la Universitatea Oxford, Clark a avertizat că există în continuare scenarii plauzibile în care tehnologia ar putea avea efecte extreme, afirmând că există situații în care aceasta ar avea „o probabilitate mai mare de zero de a ucide toată populația planetei” și subliniind că este „important să se precizeze clar că acest risc nu a dispărut”.
În același context, el a descris ritmul actual al dezvoltării AI ca fiind unul greu de controlat și a sugerat că societatea nu este pregătită pentru implicațiile sale pe termen lung.
Sursa foto: AI
Șeful Anthropic: Dezvoltarea AI ar trebui încetinită
El a mai afirmat că ar fi preferabil ca dezvoltarea tehnologică să fie încetinită, pentru a oferi mai mult timp de adaptare, spunând că ar fi mai bine dacă oamenii ar putea încetini progresul „pentru a ne acorda mai mult timp ca specie” pentru a înțelege consecințele.
Totuși, el consideră că acest scenariu este puțin probabil, deoarece dezvoltarea tehnologiei este susținută în paralel de numeroși actori și state aflate într-o competiție continuă, în care rivalitățile comerciale și geopolitice tind să treacă pe plan secund riscurile asociate cu tehnologiile create.
Clark a plecat din compania OpenAI din cauza divergențelor
Clark este una dintre figurile centrale ale companiei Anthropic, fondată de cercetători care au părăsit OpenAI din cauza divergențelor legate de siguranța AI.
Compania, cunoscută pentru modelul Claude, a dezvoltat recent și o versiune numită Mythos, despre care se afirmă că a demonstrat capacități ridicate în testele de securitate cibernetică. În același timp, compania a fost criticată de susținători ai accelerării dezvoltării AI, inclusiv din zona politică, care au acuzat-o că ar fi „alarmista” pentru a influența reglementările, acuzații respinse de Anthropic.
Clark a susținut că mulți oameni se află încă într-o etapă de negare în ceea ce privește viteza reală a progresului inteligenței artificiale.
„În curând va fi mai capabilă decât noi toți la un loc”, a avertizat acesta.
El a comparat lipsa de pregătire pentru AI cu dificultățile de reacție din timpul pandemiei COVID-19.
„Dacă stăm cu mâinile în sân și lăsăm inteligența artificială să se multiplice, atunci vom fi în cele din urmă obligați să reacționăm”, a mai spus el.
Criticii marilor companii din domeniu, precum Anthropic, OpenAI și Google, avertizează că dependența de câteva modele dominante ar putea crea un „punct unic de eșec” în infrastructurile globale.
Ce este AI socratic
În paralel, profesorul Edward Harcourt, directorul Institutului pentru Etică în AI și co-organizator al conferinței, a semnalat posibile efecte cognitive generate de utilizarea pe scară largă a acestor sisteme. El a vorbit despre riscul apariției unei „atrofii cognitive” care ar putea diminua capacitatea de analiză și judecată a oamenilor și a susținut dezvoltarea unor modele de tip „AI socratic”, concepute pentru a stimula gândirea utilizatorilor.
În viziunea lui Clark, chiar și cea mai prudentă estimare a evoluției viitoare ar putea aduce schimbări majore în economie și societate, inclusiv o posibilă separare între activitatea umană și cea a sistemelor automate.
