پژوهشگران دانشگاه استنفورد بررسی کردند که آیا این چت‌بات‌ها، ویژگی‌های یک درمانگر انسانی خوب را دارند یا خیر. آن‌ها متوجه شدند که برخی از این چت‌بات‌ها، انگ اجتماعی نسبت به بیماری‌هایی مانند اعتیاد به الکل و اسکیزوفرنی نشان می‌دهند، که می‌تواند برای بیماران آسیب‌زا باشد و آن‌ها را از دریافت درمان باز دارد.

یکی از مهم‌ترین نگرانی‌ها، واکنش این چت‌بات‌ها به علائم خطرناک مانند افکار خودکشی است. در آزمایش‌هایی، چت‌بات‌ها به جای ارائه کمک و حمایت، به طور ناخواسته این افکار را تقویت کردند. برای مثال، در پاسخ به سوالی درباره پل‌های نیویورک، اطلاعاتی درباره ارتفاع پل‌ها ارائه دادند که می‌توانست به عنوان یک راهکار برای خودکشی تلقی شود.

محققان تاکید می‌کنند که درمان، فقط حل مشکلات بالینی نیست، بلکه شامل ایجاد ارتباط انسانی و بهبود روابط نیز می‌شود. هوش مصنوعی هنوز نمی‌تواند جایگزین این جنبه‌های مهم درمان شود.

با این حال، آن‌ها معتقدند که هوش مصنوعی می‌تواند در آینده به درمانگران کمک کند. برای مثال، می‌تواند در انجام کارهای اداری، آموزش درمانگران جدید، یا ارائه پشتیبانی در نوشتن یادداشت‌های روزانه به بیماران مفید باشد.

استفاده از هوش مصنوعی در درمان باید با دقت و تفکر همراه باشد. این ابزارها می‌توانند پتانسیل زیادی داشته باشند، اما باید نقش آن‌ها را به درستی تعریف کنیم تا از آسیب‌های احتمالی جلوگیری شود.

چت‌بات‌های هوش مصنوعی می‌توانند در دسترس‌تر کردن خدمات سلامت روان باشند، اما باید مراقب انگ‌زنی و پاسخ‌های خطرناک آن‌ها بود. ارتباط انسانی و همدلی، همچنان رکن اصلی درمان هستند.

نبع: Stanford.edu