Responsabilul de etică al unei companii se asigură că AI este utilizată în mod corect. Aceștia definesc principiile de reglementare a tehnologiei. De asemenea, se informează cu privire la situația juridică și asigură legătura cu părțile interesate. Cei care ocupă această funcție câștigă adesea salarii anuale de șase cifre.
Lansarea ChatGPT a introdus lumea corporațiilor într-o nouă eră. Tehnologia robotului - AI generativ - putea scrie e-mailuri, produce coduri și materializa grafice în câteva minute. Dintr-o dată, zilele în care angajații își analizau cu atenție căsuțele poștale de primire a mesajelor și își făceau cu grijă prezentările păreau o relicvă a trecutului.
Companiile angajează experți în etica AI
Companiile, atrase de profit și de creșterea productivității, s-au grăbit să adopte tehnologia. Conform unui sondaj Mckinsey & Company, 65% dintre cele peste 1.300 de companii pe care le-a cercetat au declarat că utilizează în prezent în mod regulat inteligența artificială generativă. Această cifră este dublă față de numărul celor care o utilizau cu un an înainte.
Însă riscurile utilizării necorespunzătoare a tehnologiei sunt mari. AI generativă poate avea greșeli, poate răspândi informații eronate. De asemenea, poate consolida prejudecățile împotriva grupurilor marginalizate dacă nu este gestionată corespunzător. Având în vedere că tehnologia se bazează pe volume de date sensibile, potențialul de încălcare a securității datelor este, de asemenea, ridicat. În cel mai rău caz, însă, există pericolul că, cu cât devine mai sofisticată, cu atât este mai puțin probabil să se alinieze valorilor umane.
Prin urmare, o mare putere implică o mare responsabilitate. Iar companiile care fac bani din inteligența artificială generativă trebuie, de asemenea, să se asigure că o reglementează. Aici intervine un responsabil principal cu etica.
Un rol esențial în era AI
Detaliile rolului variază de la o companie la alta. Dar, în linii mari, aceștia sunt responsabili pentru determinarea impactului pe care utilizarea AI de către o companie l-ar putea avea asupra societății în general. Aceste concluzii au fost exprimate de Var Shankar, Chief AI and Privacy Officer la Enzai. Este o platformă software pentru guvernanța, riscul și conformitatea IA. „Deci, dincolo de compania dvs. și de rezultatele dvs. finale, cum vă afectează clienții? Cum îi afectează pe ceilalți oameni din lume? Și apoi cum afectează mediul”, a declarat el. Apoi vine „construirea unui program care standardizează și scalează aceste întrebări de fiecare dată când utilizați AI” a adăugat acesta,
Este un rol care le oferă pasionaților de politică și de filozofie, alături de programatori, un loc în industria tehnologică. Și adesea vine cu un salariu anual considerabil, de aproximativ șase cifre. În prezent, însă, companiile nu angajează suficient de repede oameni în aceste roluri, potrivit lui Steve Mills, Chief AI Ethics Officer la Boston Consulting Group. „Cred că se vorbește mult despre riscuri și principii, dar se iau puține măsuri pentru a operaționaliza acest lucru în cadrul companiilor”, a spus el.
O responsabilitate uriașă
Potrivit lui Mills, cei care reușesc în acest rol ar trebui să aibă patru domenii de expertiză. Ei ar trebui să aibă o înțelegere tehnică asupra AI generativă, experiență în construirea și implementarea de produse. De asemenea, au nevoie de o înțelegere a principalelor legi și reglementări din jurul AI. La care se adaugă o experiență semnificativă în angajarea și luarea deciziilor într-o organizație.
„De prea multe ori, văd oameni care pun managerii de nivel mediu la conducere. Deși aceștia pot avea expertiză, dorință și pasiune, de obicei nu au statura necesară pentru a schimba lucrurile în cadrul organizației”, a spus el. Fiecare companie Fortune 500 care utilizează AI la scară largă trebuie să angajeze un director cu supravegherea unui program responsabil de AI, a adăugat el.
Shankar, avocat, a declarat că acest rol nu necesită o pregătire educațională specifică. Cea mai importantă calificare este înțelegerea datelor unei companii. Aceasta înseamnă că trebuie să cunoști „implicațiile etice ale datelor pe care le colectezi, le folosești, de unde provin. Dar și unde au fost înainte de a ajunge în organizația ta și ce fel de consimțământ ai în legătură cu acestea”, a spus el.
Influență puternică
Expertul a dat exemplul furnizorilor de servicii medicale. Aceștia ar putea perpetua în mod neintenționat prejudecățile dacă nu au o înțelegere fermă a datelor lor. Într-un studiu publicat în Science, spitalele și companiile de asigurări de sănătate au luat decizii rasiste. Este vorba de cele care au utilizat un algoritm. Scopul a fost de a identifica pacienții care ar beneficia de „gestionarea îngrijirilor cu risc ridicat”. Astfel, au ajuns să acorde prioritate pacienților albi mai sănătoși în detrimentul pacienților negri mai bolnavi. Acesta este tipul de greșeală pe care un responsabil cu etica îl poate ajuta companiile să o evite.
De asemenea, cei care ocupă această funcție trebuie să fie capabili să comunice cu încredere cu diverse părți interesate. Christina Montgomery, vicepreședinte IBM, a declarat că zilele sale sunt de obicei pline de întâlniri cu clienții și evenimente, alături de alte responsabilități.
„Am petrecut mult timp pe plan extern, probabil mai mult timp în ultima vreme, vorbind la evenimente și implicându-mă cu factorii de decizie și în consiliile externe. Simt că avem foarte mult ocazia de a influența și determina cum arată viitorul”, a spus ea.
Discuții la nivel global
Montgomery face parte din consilii precum Asociația Internațională a Profesioniștilor în domeniul Confidențialității. Aceasta a lansat recent o certificare Artificial Intelligence Governance Professional. Este destinată persoanelor care doresc să conducă domeniul eticii inteligenței artificiale. De asemenea, ea colaborează cu liderii guvernamentali și cu alți responsabili de etică.
„Cred că este absolut esențial să discutăm între noi în mod regulat și să împărtășim cele mai bune practici. Iar acest lucru se întâmplă foarte des între companii”, a spus ea. Ea își propune să dezvolte o înțelegere mai largă a ceea ce se întâmplă la nivel societal - lucru pe care îl consideră esențial pentru acest rol.
„Teama mea cu privire la spațiul în care ne aflăm acum este că nu există interoperabilitate la nivel global între toate aceste reglementări și între ceea ce este corect și greșit. Nu putem funcționa într-o astfel de lume. Așadar, discuțiile dintre companii, guverne și consilii sunt foarte importante în acest moment” a spus aceasta, conform Business Insider .