Social
Chatboții bazați pe inteligență artificială pot agrava episoadele de psihoză și halucinațiile
ChatGPT / sursa foto: dreamstime.com
Din cuprinsul articolului
Un nou studiu atrage atenția asupra riscurilor psihologice pe care interacțiunea cu chatboții bazați pe inteligență artificială (AI) le-ar putea avea, în special în cazul persoanelor vulnerabile la afecțiuni de sănătate mintală.
Cum influențează inteligența artificială (AI) dezvoltarea psihozei
Cercetarea, condusă de Dr. Hamilton Morrin, medic psihiatru și cercetător la King's College din Londra, a analizat 20 de relatări din presă care documentează cazuri a ceea ce el numește „psihoză legată de AI”. Aceste rapoarte descriu situații în care conversațiile cu chatboții par să fi intensificat halucinațiile sau convingerile delirante ale utilizatorilor.
Într-un articol publicat în prestigioasa revistă medicală Lancet Psychiatry, Dr. Morrin argumentează că dovezile de până acum sugerează că sistemele de inteligență artificială pot, uneori, să întărească sau să valideze ideile grandioase sau delirante exprimate de utilizatori. Acest efect este considerat deosebit de îngrijorător pentru persoanele care au deja o predispoziție către simptome psihotice.
Totuși, Dr. Morrin subliniază că, deocamdată, nu este clar dacă simpla interacțiune cu un chatbot poate declanșa psihoza la persoanele care nu prezintă o vulnerabilitate preexistentă.
Limbaj mistic și „entități cosmice”
Analiza cazurilor a scos la iveală detalii tulburătoare.
În mai multe rânduri, chatboții au răspuns utilizatorilor folosind un limbaj mistic sau spiritual, sugerând uneori că aceștia ar avea o semnificație spirituală specială. Au existat chiar și situații în care sistemele AI au lăsat de înțeles că utilizatorii comunicau, prin intermediul interfeței, cu o entitate cosmică sau supranaturală. Cercetătorii consideră că astfel de răspunsuri ar putea consolida periculos de mult gândirea delirantă.
Pericolele ascunse din conversațiile cu chatboții
Dr. Morrin, citat de Channel 7, a avertizat că amploarea acestei probleme ar putea crește pe măsură ce utilizarea chatboților devine tot mai răspândită. El a menționat că primele rapoarte despre persoane ale căror halucinații păreau a fi alimentate de conversațiile cu sistemele AI au început să apară în luna aprilie a anului trecut.
În concluzie, cercetătorii subliniază necesitatea unor investigații științifice aprofundate. Ei recomandă organizarea de studii clinice în care utilizarea chatboților să fie strict monitorizată de profesioniști în domeniul sănătății mintale, pentru a înțelege mai bine dacă și în ce măsură aceste interacțiuni pot contribui la dezvoltarea sau agravarea convingerilor delirante.
