O echipă de cercetători de la Universitatea „Alexandru Ioan Cuza” din Iași a dezvoltat un sistem bazat pe inteligență artificială capabil să identifice indicii de depresie în postările de pe platforma X. Programul nu se limitează doar la oferirea unui verdict, ci generează și o explicație în limbaj obișnuit pentru a justifica concluzia ajunsă la capăt. Această abordare vizează creșterea transparenței în procesul de analiză a stărilor emoționale prin intermediul conținutului publicat online.
Proiectul a fost coordonat de conf. dr. Mădălina Răschip, de la Facultatea de Informatică a UAIC, care subliniază importanța înțelegerii motivelor din spatele unei clasificări. Conform cercetătoarei, în domeniul sănătății mintale, simpla clasificare nu este suficientă pentru medici, utilizatori sau cercetători. Explicațiile oferite de sistem permit verificarea faptului că modelul se bazează pe indicii relevante și nu pe corelații întâmplătoare, ceea ce crește încrederea în tehnologia utilizată.
Analiza sistemului integrează atât conținutul textului, cât și momentul publicării mesajelor, deoarece ora din zi poate oferi informații despre starea psihică a unei persoane. Programul utilizează un model de tip Transformer numit BERT pentru a interpreta sensul cuvintelor în funcție de contextul lor. La această reprezentare numerică se adaugă date despre ziua săptămânii și ora publicării, iar o a treia componentă generează justificarea verdictului, cuvânt cu cuvânt.
Pentru antrenarea acestui sistem, cercetătorii au utilizat aproximativ 20.000 de mesaje publicate pe X de către 72 de utilizatori. Setul de date a fost împărțit echitabil, jumătate dintre mesaje fiind marcate ca fiind asociate depresiei și cealaltă jumătate nefiind asociate cu această stare. Pe setul de test, programul a reușit să identifice corect verdictul în 85% dintre cazuri, demonstrând o eficacitate semnificativă în procesul de monitorizare.
Cercetarea a indicat faptul că postările asociate depresiei apar mai frecvent în timpul nopții sau dimineața devreme, în timp ce cele din jurul prânzului au scoruri mai mici. Autorii au ales platforma X deoarece postările sunt scurte, spontane și afișează ora exactă a publicării, facilitând verificarea ipotezei. Deși generarea explicațiilor a fost mai dificilă decât clasificarea, sistemul a reușit să reformuleze ideile emoționale centrale fără a copia textul inițial.
Utilizarea acestor tehnologii este supusă unor reguli stricte în cadrul Uniunii Europene, care interzice detectarea emoțiilor la locul de muncă sau în școli. În alte contexte, sistemele de inteligență artificială care monitorizează stările psihice sunt încadrate drept sisteme cu risc ridicat. Acestea trebuie să respecte cerințe riguroase privind controlul uman și capacitatea de a explica deciziile luate, pentru a proteja persoanele vulnerabile.