AI Sursa foto: Pixabay Progresele Inteligenței Artificiale sunt evidente. Doar că unele programe care sunt în permanentă evoluție pot fi corupte astfel încât să se obțină rezultatele scontate de către cei care le corup.
Punctele nevralgice ale Inteligenței Artificiale au fost subliniate chiar și de către unii dintre cei care au participat la crearea ei. Spre exemplu, Geoffrey Hinton, unul dintre creatorii IA a precizat că sunt pericole în dezvoltarea rapidă a Inteligenței Artificiale. Hinton a vorbit despre faptul că chatbot-urile IA pot deveni „destul de înfricoșătoare” dacă depășesc inteligența umană.
”În acest moment, ceea ce vedem este că lucruri precum GPT-4 eclipsează o persoană în cantitatea de cunoștințe generale. În ceea ce privește raționamentul, nu este la fel de bun, dar face deja raționamente simple. Și având în vedere rata de progres, ne așteptăm ca lucrurile să se îmbunătățească destul de repede. Așa că trebuie să ne facem griji pentru asta.”
Asta pentru că, spune Hinton, programele și raționamentele pot fi folosite în scopuri de manipulare. Astfel roboții ar urma să aibă sub-obiectivele lor.
IA are potential de distrugere a civilizației
Sursa foto: Arhiva EVZ
Drept urmare, investiția principală ar trebui făcută în siguranța și controlul IA. Nici Elon Musk nu se abține atunci când vine vorba de îngrijorări legate de IA. IA este mai periculoasă decât, să zicem, proiectarea aeronavelor prost gestionată sau întreținerea producției sau producția proastă de mașini. În sensul că are potențialul de distrugere a civilizației.
Este o mică probabilitate, dar nu este banal.” De altfel, Musk susșine și reglementările guverbnamentale pentru a asigura siguranța față de potențialele riscuri. Pe de altă parte 1000 de experți în IA au făcut o scrisoare în care atrag atenția asupra ritmului alert în care lucrurile evoluează. Ba mai mult ei spun că Inteligența Artificială ridică provocări socioeconomice severe.
Ba mai mult, acea scrisoare spune că dezvoltatorii AI ar trebui să lucreze cu factorii de decizie pentru a documenta sistemele de guvernare AI. Practic scrisoarea a fost inițiată de peste 1.000 de exoerți și a ajuns să fie semnată de 31.000 de dezvoltatori care au legătură cu Inteligența artificială.
Recomandările noastre
