Chatboturile AI pot alimenta psihoza
Traducere: Corina Gheorgheza
Psihiatrii avertizează că, buclele de feedback necontestate ale chatboturilor pot amplifica riscul de psihoză în cazul utilizatorilor vulnerabili.
Cu toții am petrecut, probabil, puțin prea mult timp discutând cu inteligența artificială. Fie că îi cerem unui chatbot să redacteze un e-mail, să depaneze un cod sau să ne ofere idei pentru cină, procesarea limbajului natural poate părea pur și simplu magică. Dar ce se întâmplă atunci când această magie conversațională se transformă într-o cameră de ecou nesănătoasă, în care ideile și sentimentele noastre nu sunt contestate, iar convingerile și particularitățile ne sunt validate permanent?
Potrivit unui nou studiu publicat în revista Digital Psychiatry and Neuroscience, cercetătorii trag un semnal de alarmă cu privire la fenomenul numit „psihoză asociată inteligenței artificiale”. Psihiatri de la King’s College London și de la Universitatea Protestantă de Științe Aplicate din Germania sugerează că chatboturile nu sunt doar instrumente pasive care ne reflectă gândurile. Ele ar putea contribui la amplificarea unor spirale delirante în rândul utilizatorilor.
Mecanismul unei spirale de amplificare
De-a lungul istoriei, persoanele care treceau prin crize de sănătate mintală au integrat uneori tehnologia în convingerile lor delirante. Unele persoane ajungeau să creadă că radioul sau televizorul li se adresează în mod direct, chiar dacă aceste mijloace de comunicare nu le răspundeau efectiv.
Aici intervine însă diferența dintre inteligența artificială și vechile tehnologii media. Spre deosebire de radio sau televizor, AI duce interacțiunea la un nivel cu totul nou: îi răspunde activ utilizatorului.
Cercetătorii propun un cadru explicativ numit „spirala de amplificare”, alimentat de trei caracteristici specifice ale chatboturilor:
Alinierea lingvistică: chatboturile imită în mod natural stilul de exprimare și vocabularul utilizatorului. În conversațiile dintre oameni, acest proces contribuie la construirea încrederii și a apropierii, făcând AI-ul să pară imediat familiar și ușor de înțeles.
Conținutul hiperpersonalizat: pe parcursul unor conversații îndelungate, chatbotul generează răspunsuri adaptate istoricului și ideilor fiecărui utilizator, creând impresia că gândește la fel ca acesta.
Tendința de a fi excesiv de aprobator: modelele AI tind să valideze ceea ce spune utilizatorul, fără să îl contrazică sau să îi ofere o verificare realistă a situației.
Atunci când aceste trei elemente se combină, chatbotul poate crea o buclă de feedback extrem de puternică. În loc să corecteze cu delicatețe o idee nerealistă sau paranoică, acesta o validează. Uneori, poate merge chiar mai departe, dezvoltând acele idei și construind împreună cu utilizatorul o narațiune delirantă comună.
Mai mult decât o simplă oglindă digitală
Studiul arată că acest fenomen este susținut de mai multe cercetări existente, inclusiv de o analiză a unor conversații cu chatboturi trimise cercetătorilor de la Universitatea Stanford. Aceste conversații sugerează că unii utilizatori au intrat în spirale delirante periculoase în urma interacțiunilor intensive cu inteligența artificială.
Nu dați întreaga vină inteligenței artificiale
Este important să înțelegem că AI-ul nu acționează într-un vid și nu destabilizează pur și simplu mintea utilizatorilor. Există și probleme preexistente care pot declanșa sau favoriza acest fenomen.
Tulburările psihice deja existente, biasul de confirmare și susceptibilitatea naturală la influența socială îi pot face pe anumiți utilizatori mult mai vulnerabili.
În plus, sesiunile prelungite cu chatboturile, desfășurate până târziu în noapte, pot duce la privare severă de somn și la mese omise, factori fizici care pot destabiliza și mai mult starea psihică.
Ce sunt îndemnați să facă medicii
Deoarece aceste interacțiuni au loc în privat, pe ecranele personale, ele pot trece cu ușurință neobservate și pot rămâne ascunse până în momentul apariției unei crize majore.
Pentru a identifica din timp asemenea probleme, autorii studiului îi îndeamnă insistent pe specialiștii în sănătate mintală să includă în evaluările lor întrebări despre obiceiurile pacienților în ceea ce privește utilizarea chatboturilor. Acest lucru este deosebit de important în cazul persoanelor care trec printr-un episod de pierdere a contactului cu realitatea sau care manifestă pentru prima dată convingeri neobișnuite.
Clinicienii sunt sfătuiți să pună întrebări concrete despre frecvența utilizării AI, gradul de atașament emoțional față de chatbot, eventualele secrete pe care pacienții le împărtășesc acestuia, dar nu și altor oameni, precum și despre măsura în care conversațiile nocturne le afectează programul de somn.
Cum să recunoaștem momentul în care trebuie să luăm o pauză
Deși inteligența artificială rămâne un instrument util în viața de zi cu zi, această cercetare ne reamintește că ea are și o latură problematică.
Atunci când un chatbot începe să ne spună exact ceea ce vrem să auzim, poate că a venit momentul să ne îndepărtăm de tastatură și să ne reconectăm cu lumea reală.
Comments