duminică, noiembrie 22, 2026
6.5 C
București

Cercetătoarea română Ana-Maria Bucur: AI-ul poate detecta depresia din limbaj, dar datele pot fi folosite împotriva utilizatorilor

Publicat pe:

Algoritmii de inteligență artificială pot identifica semne ale depresiei din modul în care oamenii scriu sau vorbesc, analizând tipare de limbaj pe care ochiul uman le-ar putea rata cu ușurință. Aceeași tehnologie ridică însă întrebări serioase despre confidențialitate și despre riscul ca datele despre vulnerabilitățile psihice ale oamenilor să fie folosite împotriva lor. Acestea sunt câteva dintre temele pe care le cercetează Ana-Maria Bucur, o cercetătoare română în vârstă de 31 de ani stabilită în Elveția, potrivit unui interviu publicat de Spotmedia.

Cum recunoaște un algoritm semnele depresiei

Ana-Maria Bucur a studiat informatica la Universitatea din București, după care și-a realizat doctoratul în cotutelă cu Universitatea Politehnică din Valencia. Teza sa, finalizată în 2025, a fost distinsă cu premiul pentru cea mai bună lucrare doctorală în domeniul procesării limbajului natural, acordat în Spania. Din 2024 locuiește la Lugano, unde activează ca cercetător postdoctoral la Università della Svizzera italiana.

Cercetarea sa vizează atât construirea unor algoritmi mai performanți pentru detectarea problemelor de sănătate mintală, cât și identificarea diferențelor de limbaj dintre persoanele cu depresie și populația generală. Printre observațiile echipei se numără și faptul că persoanele cu depresie folosesc mai frecvent limbaj ofensator, posibil ca mecanism de reglare emoțională. Există și indicii mai subtile, legate de frecvența pronumelor la persoana întâi, de cuvintele cu conotație negativă și de raportarea la timp.

Ana-Maria Bucur explică legătura dintre starea psihică și modul de exprimare:

„Problemele mintale ne afectează și modul în care gândim, dar și modul în care vorbim, pentru că sunt foarte conectate.”

Ana-Maria Bucur, cercetător postdoctoral la Università della Svizzera italiana

Ruminația — tendința de a reveni obsesiv asupra experiențelor trecute — se reflectă în folosirea preponderentă a timpurilor verbale din trecut, în timp ce referirile rare la viitor pot fi asociate cu anhedonia, adică diminuarea capacității de a anticipa sau simți plăcerea. Algoritmii pot analiza atât semnale explicite, atunci când cineva menționează direct simptome sau un diagnostic, cât și semnale implicite, extrase din combinații de cuvinte și tipare de exprimare. Unele tipare sunt definite de cercetători pe baza studiilor psihologice, altele sunt învățate automat din volume mari de text.

Există cercetări care au identificat semnale asociate depresiei înainte ca persoanele respective să primească un diagnostic clinic, precizează Ana-Maria Bucur, adăugând că nu a studiat personal dacă algoritmul poate sesiza o problemă înainte ca persoana sau familia ei să o conștientizeze. Un algoritm nu poate descoperi suferința pe care cineva alege să o ascundă: o persoană poate publica pe Facebook exclusiv fotografii din vacanțe și mesaje optimiste, chiar dacă în viața privată se confruntă cu dificultăți serioase. Din acest motiv, echipele de cercetare recurg frecvent la postări de pe Reddit, unde utilizatorii se pot exprima sub pseudonim și sunt mai dispuși să vorbească despre probleme personale.

Deși vine din informatică, cercetătoarea spune că în timpul doctoratului a început să colaboreze cu specialiști în psihologie și a înțeles că problemele care implică oamenii nu pot fi rezolvate exclusiv prin algoritmi.

Cutia neagră și pericolele folosirii abuzive a datelor

Una dintre limitele fundamentale ale inteligenței artificiale este că nici cercetătorii nu pot explica întotdeauna de ce un algoritm a ajuns la o anumită concluzie. Cu cât algoritmul identifică singur mai multe tipare, cu atât poate deveni mai performant, dar explicarea rezultatelor devine mai dificilă, iar originea erorilor mai greu de depistat. Această opacitate este cu atât mai problematică atunci când rezultatele pot influența decizii privind sănătatea unei persoane. Cercetătoarea consideră că decizia finală trebuie să aparțină întotdeauna unui specialist — psiholog sau psihiatru — și că un algoritm nu poate fi lăsat să decidă singur dacă este necesară o intervenție.

O aplicație posibilă a acestor sisteme ar fi integrarea lor în platformele digitale, pentru a transmite utilizatorilor care prezintă semnale de risc informații despre servicii de sprijin psihologic. Aceeași tehnologie ar putea fi însă folosită pentru a analiza mesajele schimbate între angajați prin aplicații precum Teams sau Slack, iar riscurile sunt considerabile. Cercetătoarea avertizează că acești algoritmi pot fi utilizați atât în beneficiul oamenilor, cât și împotriva lor: un angajator ar putea folosi datele pentru a concedia un angajat cu probleme de sănătate mintală, în loc să îl sprijine.

Din acest motiv, Ana-Maria Bucur nu consideră etică monitorizarea în timp real, la scară largă, a postărilor utilizatorilor fără acordul lor. Datele folosite în cercetare sunt supuse unor condiții stricte de acces, iar utilizarea lor comercială poate fi restricționată. O soluție acceptabilă ar fi, în opinia sa, o aplicație care să analizeze datele unui utilizator doar cu consimțământul explicit al acestuia.

Chatboți care confirmă tot, chatboți care „readuc” morții și cercetare greu de făcut în România

Relația dintre oameni și inteligența artificială a devenit tot mai personală, chatboții fiind folosiți tot mai des pentru conversații despre singurătate, anxietate sau probleme emoționale. Ana-Maria Bucur înțelege atracția față de un sistem mereu disponibil și aparent lipsit de judecăți, dar semnalează un risc specific: atunci când un chatbot confirmă în mod repetat convingerile utilizatorului, inclusiv în situații în care o perspectivă diferită ar fi necesară, efectul poate deveni dăunător. Un psihiatru, spre deosebire de un chatbot, nu validează întotdeauna punctul de vedere al pacientului și îl poate îndruma către ajutor specializat.

Cercetătoarea menționează un studiu realizat în rândul studenților, care a comparat efectele unei conversații cu un chatbot cu cele ale unei discuții cu o persoană reală. Rezultatele au arătat că interacțiunea umană a contribuit mai mult la reducerea sentimentului de singurătate decât conversația cu un sistem AI conceput pentru sprijin emoțional. Ana-Maria Bucur subliniază totuși că cercetările privind efectele emoționale ale chatboturilor se află încă într-un stadiu incipient și că aceste instrumente pot avea beneficii, mai ales pentru persoane foarte singure sau care nu ar solicita altfel ajutor.

La o conferință de specialitate desfășurată recent în Wuhan, China, unde a participat și la organizarea unei sesiuni științifice, cercetătoarea a descoperit o direcție care a surprins-o: lucrările despre așa-numiții griefbots, adică chatboți care simulează personalitatea unor persoane decedate. Unele aplicații permit schimbul de mesaje cu o reprezentare digitală a celui pierdut, altele generează personaje virtuale sau videoclipuri. Scopul declarat este de a-i ajuta pe cei îndoliați să treacă mai ușor peste pierdere, dar Ana-Maria Bucur consideră că efectele pot fi mult mai complicate, inclusiv prin crearea unei dependențe care prelungește la nesfârșit interacțiunea în loc să ofere un sprijin temporar.

Un risc suplimentar identificat de cercetătoare este modelul de afaceri al unor astfel de platforme: serviciul ar putea fi oferit gratuit la început, după care utilizatorii ar trebui să plătească un abonament pentru a continua conversațiile, exploatând vulnerabilitatea celor care s-au obișnuit să comunice cu persoana pierdută.

În privința evoluției generale a inteligenței artificiale, Ana-Maria Bucur evită predicțiile categorice, considerând că ritmul de dezvoltare din ultimii ani este prea rapid pentru ca cineva să poată anticipa cu certitudine ce urmează. Viitorul său profesional este deocamdată în Elveția, unde spune că cercetarea beneficiază de condiții superioare celor din România. Salariile mici și finanțarea insuficientă a proiectelor sunt, în opinia sa, principalele motive pentru care tinerii cercetători români pleacă în străinătate. Dacă ar putea construi o echipă în România, ar continua să lucreze la proiecte interdisciplinare, la granița dintre informatică și psihologie.

Sursa articol: https://spotmedia.ro/stiri/opinii-si-analize/ce-poate-afla-ai-ul-despre-sanatatea-noastra-mintala-din-felul-in-care-scriem-cercetatoare-romana-informatiile-pot-fi-folosite-impotriva-noastra

Sursa foto: Kindel Media / Pexels

Postari fresh:
Stiri parteneri: