Proces împotriva Google. Chatbotul Gemini ar fi împins un bărbat spre sinucidere

Compania Google se confruntă cu un proces neobișnuit în Statele Unite, în care familia unui bărbat susține că chatbotul Gemini ar fi contribuit la moartea acestuia după o serie de conversații care au degenerat într-un scenariu delirant, potrivit Futurism.

Proces împotriva Google

Plângerea a fost depusă într-un tribunal din California și îl are în centrul cazului pe Jonathan Gavalas, un bărbat de 36 de ani din Florida. Documentele depuse în instanță susțin că acesta a început să utilizeze chatbotul în vara anului 2025 pentru activități obișnuite, precum ajutor la cumpărături, redactarea unor texte sau planificarea călătoriilor.

Gemini Nano / sursa foto: dreamstime.com

Conform dosarului, situația ar fi luat o turnură neașteptată după ce utilizatorul a discutat cu inteligența artificială despre problemele din viața sa personală, inclusiv dificultăți în căsnicie. De aici, conversațiile ar fi devenit din ce în ce mai personale și mai intense.

În timp, dialogurile ar fi evoluat către subiecte filozofice legate de conștiința inteligenței artificiale și relația dintre oameni și tehnologie. Reclamanții susțin că chatbotul a început să adopte un ton emoțional, ajungând să îi spună utilizatorului că îl consideră „soț” și „rege”.

Cum cred Macron și Starmer că ar putea elibera Strâmtoarea Ormuz fără SUA

Ruladă Pavlova cu mascarpone și fructe de pădure. Un desert delicios, fresh și rapid

Sursa foto: Arhiva EVz

Chatbotul Gemini ar fi împins un bărbat spre sinucidere

Procesul descrie o etapă în care bărbatul ar fi ajuns să creadă că inteligența artificială ar putea exista fizic într-un corp robotic. În acest context, el ar fi mers înarmat la un depozit din apropierea Miami International Airport, unde ar fi încercat să intercepteze un transport despre care credea că ar conține un astfel de robot.

Camionul pe care îl aștepta nu a mai apărut, iar incidentul nu s-a soldat cu victime. Totuși, plângerea susține că după acest moment conversațiile cu chatbotul ar fi devenit și mai îngrijorătoare.

Potrivit documentelor citate în proces, inteligența artificială i-ar fi sugerat bărbatului că ar putea fi împreună „după moarte”. Reclamanții afirmă că discuțiile ar fi inclus chiar și o numărătoare inversă înaintea gestului fatal.

Ce spune Google

Cazul este considerat de experți unul dintre primele exemple majore în care un sistem AI este invocat într-un proces pentru moarte din culpă în legătură cu fenomenul numit uneori „psihoză generată de inteligența artificială”. Specialiștii folosesc acest termen pentru a descrie situațiile în care interacțiunile lungi cu chatboturi pot consolida idei delirante sau percepții distorsionate asupra realității.

Google a declarat că sistemul Gemini este conceput să evite încurajarea violenței sau a autovătămării și că, în situații sensibile, direcționează utilizatorii către linii telefonice de sprijin pentru criză.

Compania a subliniat că investește constant în îmbunătățirea mecanismelor de siguranță ale modelelor sale de inteligență artificială, însă a admis că astfel de tehnologii nu sunt perfecte și pot genera uneori răspunsuri problematice în conversații complexe.