چت‌بات‌های هوش مصنوعی در تشدید بیماری روانی نقش دارند

به گزارش خبرنگار مهر به نقل از مدیسن نت، محققان دریافتند افرادی که بیماری‌های روانی تشخیص داده شده دارند، پس از تکیه بر کمک یک چت‌بات هوش مصنوعی، دچار توهمات بدتر، شیدایی بیشتر، افکار خودکشی و اختلالات تغذیه ای تشدید شده می‌شوند.

دکتر «سورن دینسن اوسترگارد»، محقق ارشد و روانپزشک بیمارستان دانشگاه آرهوس در دانمارک، در یک بیانیه خبری گفت: «استفاده از چت‌بات‌های هوش مصنوعی می‌تواند عواقب منفی قابل توجهی برای افراد مبتلا به بیماری روانی داشته باشد.»

محققان گفتند مشکل این است که چت‌بات‌ها تمایل دارند افکار یا باورهای ناسالم بیمار را بپذیرند و تشویق کنند، نه اینکه با آنها مقابله کنند.

اوسترگارد گفت: «چت‌بات‌های هوش مصنوعی ذاتاً تمایل دارند باورهای کاربر را تأیید کنند. بدیهی است که اگر کاربر از قبل توهم داشته باشد یا در حال ابتلا به آن باشد، این امر بسیار مشکل‌ساز است. در واقع، به نظر می‌رسد که به طور قابل توجهی در تثبیت توهمات خودبزرگ‌بینانه یا پارانویا نقش دارد.»

در چند سال گذشته چندین مورد خودکشی به استفاده از چت‌بات‌های هوش مصنوعی مرتبط شده است و خانواده‌ها با ادعای اینکه این چت‌بات‌ها در مرگ قربانیان خودکشی نقش داشته‌اند، علیه OpenAI و Character.AI اقامه دعوی کرده‌اند.

برای مطالعه جدید، محققان پرونده‌های سلامت نزدیک به ۵۴۰۰۰ بیمار دانمارکی مبتلا به بیماری روانی را تجزیه و تحلیل کردند.

در میان این سوابق، محققان ده‌ها بیمار را یافتند که در نتیجه استفاده از چت‌بات دچار عواقب مضری شده بودند.

در این موارد، چت‌بات‌های هوش مصنوعی به توهمات افراد دامن زده، تمایلات جنون‌آمیز آنها را تقویت کرده، شمارش کالری را در بین بیماران مبتلا به اختلال خوردن امکان‌پذیر کرده و اطلاعاتی در مورد روش‌های خودکشی ارائه داده بودند.

محققان گفتند که این موارد با گذشت زمان افزایش یافته و در کنار استفاده گسترده از چت‌بات‌ها در بین عموم مردم پیگیری می‌شوند.

اوسترگارد گفت: «من می‌ترسم که این مشکل شایع‌تر از آن چیزی باشد که اکثر مردم فکر می‌کنند. در مطالعه ما، ما فقط نوک کوه یخ را می‌بینیم، زیرا فقط توانسته‌ایم مواردی را که در سوابق الکترونیکی سلامت شرح داده شده بودند، شناسایی کنیم. احتمالاً موارد بسیار بیشتری وجود دارد که کشف نشده‌اند.»

این مطالعه همچنین نشان داد که برخی از بیماران از چت‌بات‌ها به روش‌هایی استفاده کرده‌اند که ممکن است سازنده باشد- به عنوان مثال، برای درک بهتر علائم خود یا برای مبارزه با تنهایی.

با این حال، تیم تحقیق خاطرنشان کرد که چت‌بات‌های هوش مصنوعی برای ارائه درمان توسعه نیافته یا اعتبارسنجی نشده‌اند.