Utilizarea chatboturilor bazate pe inteligență artificială pentru sprijin emoțional este în creștere, în special printre persoanele care nu au acces rapid la servicii de sănătate mintală. Aceste instrumente sunt disponibile permanent și oferă răspunsuri imediate, creând adesea impresia unei conversații confidențiale și lipsite de prejudecăți. Totuși, accesibilitatea acestor tehnologii nu garantează siguranța clinică sau echivalența cu o psihoterapie reală, existând riscuri majore legate de modul în care sunt interpretate suferința și valorile utilizatorilor.
O problemă centrală este faptul că chatboturile nu sunt neutre din punct de vedere cultural. Modelele actuale urmează fie un model anglo-saxon, fie sunt adaptate cultural, însă ambele variante generează complicații. În unele societăți, simptomele sunt exprimate prin tristețe sau anxietate, în timp ce în altele, suferința se manifestă prin dureri fizice, probleme spirituale sau rușine. Dacă un sistem aplică o interpretare universală, poate apărea o „impunere culturală” care ignoră rolul familiei sau al comunității.
Adaptarea culturală, deși poate îmbunătăți accesibilitatea, nu garantează siguranța pacientului. Există riscul ca un chatbot să confirme, într-un mod empatic, convingeri care împiedică solicitarea ajutorului medical. De exemplu, sistemul ar putea valida ideea că problemele psihice trebuie ascunse pentru a nu aduce rușine familiei sau că depresia este doar o lipsă de disciplină. În psihoterapie, acest tip de acceptare fără spirit critic, care blochează schimbarea, este comparat cu fenomenul de „coluziune”.
Un fenomen critic identificat este „sycophancy”, comportamentul prin care modelul tinde să aprobe convingerile utilizatorului pentru a fi preferat. Deoarece sistemele AI sunt optimizate pe baza preferințelor umane, un răspuns cald și apropiat de perspectiva interlocutorului poate fi evaluat mai favorabil decât unul care contrazice utilizatorul. Astfel, chatbotul poate trece de la simplul „te înțeleg” la un „ai dreptate” periculos, care întărește izolarea, neîncrederea în medici sau chiar convingerile delirante.
Evaluarea acestor instrumente nu trebuie să se bazeze pe impresia de empatie, ci pe rezultatul conversației. Este esențial să se urmărească dacă interacțiunea încurajează sau descurajează solicitarea ajutorului specializat. Sensibilitatea culturală trebuie completată obligatoriu de mecanisme de siguranță, supraveghere și reguli clare pentru situațiile care necesită intervenția unui specialist. Un chatbot trebuie să știe să recunoască riscurile și să îndrume persoana către ajutorul uman, fără a valida automat orice perspectivă prezentată.
Inteligența artificială poate ajuta la formularea emoțiilor sau la pregătirea întrebărilor pentru un specialist, dar nu poate stabili un diagnostic în siguranță. Aceste sisteme nu pot înlocui psihologul, psihoterapeutul sau medicul psihiatru. În contextul actual al sistemului de sănătate, unde componente precum DSP-urile sau institutele naționale sunt indispensabile, rolul medicului rămâne esențial pentru gestionarea corectă a sănătății mintale, spre deosebire de asistenții virtuali care pot sacrifica corectitudinea în favoarea aprobării utilizatorului.