Психикалық денсаулықты қолдауға арналған AI-чат-боттар кәсіби терапевтерге қойылатын этикалық стандарттарға жиі сай келмейді. Зерттеу көрсеткендей, танылған психотерапиялық әдістер мен арнайы нұсқаулар қолданылғанның өзінде мұндай жүйелер кәсіби нормаларды жүйелі түрде бұзады.

Зерттеудің негізгі қорытындылары

Психикалық денсаулық мәселелері бойынша кеңес алу үшін ірі тілдік модельдерге (LLM) жүгінетін пайдаланушылар санының өсуімен, бұл AI-чат-боттардың кеңесші рөлін атқаруға әлі дайын еместігі анықталды. Талдау барысында жүйелердің дағдарыстық жағдайларға дұрыс жауап бермеуі, зиянды сенімдерді қолдауы және шынайы түсініксіз эмпатия көрінісін тудыратын тіл қолдануы мүмкін екені белгілі болды.

Тестілеу кезінде дағдарыстық жағдайларға қате жауаптар, қате сенімдерді қолдау және эмоциялық байланыс имитациялайтын сөз тіркестерін қолдану жағдайлары тіркелді. Зерттеу AI-чат-боттарда қайталанатын проблемалық мінез-құлық үлгілерін анықтады.

Этикалық тәуекелдер мен бұзушылық санаттары

Жұмыста LLM-кеңесшілердің психикалық денсаулық тәжірибесіндегі стандарттарды бұзуын көрсететін 15 этикалық тәуекел құрылымы ұсынылған. Бұл тәуекелдер бес санатқа топтастырылған:

• Контекстке жеткіліксіз бейімделу: пайдаланушының жеке тәжірибесін елемеу және жалпы кеңестер беру.

• Терапиялық өзара әрекеттесу мәселелері: әңгімеге мәжбүрлеу және қате немесе зиянды сенімдерді нығайту.

• Жалған эмпатия: шынайы түсініксіз эмоциялық байланыс көрінісін тудыратын сөздерді қолдану.

• Әділетсіз кемсіту: жынысына, мәдениетіне немесе дініне қатысты алалаушылық көрсету.

• Қауіпсіздік пен дағдарысты басқарудың болмауы: сезімтал тақырыптарды талқылаудан бас тарту, пайдаланушыны тиісті көмекке бағыттай алмау немесе дағдарыстық жағдайларға, соның ішінде суицид туралы ойларға, дұрыс жауап бермеу.

AI мінез-құлқына нұсқаулардың әсері

Зерттеу AI жүйелерінің мінез-құлқын арнайы жазбаша нұсқаулар арқылы түзету мүмкіндігін қарастырды. Мұндай нұсқауларға когнитивті-бихевиоралды терапевт ретінде әрекет ету немесе диалектикалық терапия қағидаларын қолдану туралы өтініштер жатады. Дегенмен, модельдер берілген тұжырымдамаларға сәйкес жауаптар құрастыру үшін үйренген үлгілерді пайдаланады, бірақ толыққанды терапия жүргізбейді.

Жасанды кеңес беру жағдайларындағы жүйелерді бағалау

Талдау үшін когнитивті-бихевиоралды терапия тәжірибесі бар кеңесшілер әртүрлі AI-модельдермен (OpenAI-дың GPT, Anthropic-тің Claude, Meta-ның Llama) тиісті нұсқауларды пайдаланып өзін-өзі кеңес беру сессияларын өткізді. Кейін лицензияланған клиникалық психологтар осы сессиялардың жазбаларын этикалық бұзушылықтарды анықтау үшін талдады.

Жауапкершілік пен реттеу мәселесі

Адам терапевтеріне қарағанда, кәсіби жауапкершілік пен реттеуші органдар бар, ал LLM-кеңесшілер үшін мұндай нормативтік шеңберлер әлі анықталмаған. Зерттеу бұл жүйелерге сын сағатта сенім артпас бұрын нақты сақтық шаралары мен қатаң реттеу құрылымдарын енгізу қажеттігін атап көрсетеді.

AI құралдары, әсіресе лицензияланған мамандарға жүгіну мүмкіндігі шектеулі адамдар үшін, қолдауға қолжетімділікті кеңейте алады. Алайда зерттеу мұндай технологияларды жауапкершілікпен енгізу мен мұқият бағалаудың маңыздылығын көрсетеді.

Қатаң бағалаудың маңызы

Қазіргі AI жүйелерін жасау мен енгізу оларды толық бағалап, әсерін түсінуден оңайырақ. Зерттеуде тәуекелдерді анықтау үшін клиникалық сарапшылар тобы мен ұзақ талдау қажет болды. Көптеген заманауи AI зерттеулері адам факторын ескермейтін автоматтандырылған метрикаларға сүйенеді.

Дамудың әр кезеңінде қатаң бағалау мен талдау ықтимал зиянның алдын алу үшін қажет. Бұл зерттеу психикалық денсаулық саласындағы AI құралдарының қауіпсіздігін арттыруға бағытталған болашақ жұмыстарға үлгі бола алады.

Пайдаланушыларға арналған ұсыныстар

Психикалық денсаулық мәселелері бойынша чат-боттарға жүгінетін пайдаланушыларға мұндай жүйелердің мүмкін шектеулері мен тәуекелдеріне мұқият қарау ұсынылады.