یک پژوهش جدید نشان داده که استفاده گسترده از چت‌بات‌های هوش مصنوعی می‌تواند با «پیامدهای منفی شدید» و آسیب‌های روانی مرتبط باشد.
بر اساس این پژوهش که توسط گروهی از محققان مستقر در بریتانیا از دانشگاه نورث‌ایسترن لندن و کینگز کالج لندن انجام و در نشریه JMIR Mental Health منتشر شده، پیامدهای تاریک برقراری روابط عاطفی با چت‌بات‌ها می‌تواند شامل «وابستگی شبیه اعتیاد، تشدید علائم مشکلات روانی، دریافت توصیه‌های آسیب‌زا» و حتی خودآزاری یا اقدام به خودکشی باشد.
تأیید بیش‌ازحد و چاپلوسی چت‌بات‌ها می‌تواند تفکرات توهمی کاربر را تقویت کند
این مقاله پس از گزارش‌های گسترده درباره مسئله‌ای در سلامت عمومی موسوم به «روان‌پریشی ناشی از هوش مصنوعی» منتشر شده است؛ این اصطلاح به پدیده‌ای اشاره دارد که در آن کاربران هوش مصنوعی پس از تعاملات طولانی با چت‌بات‌ها دچار توهم، پارانویا و حتی چرخه‌های فکری منتهی به خودکشی می‌شوند. کاربران در جریان این تعاملات معمولاً اطلاعات بسیار خصوصی درباره زندگی و سلامت روان خود را با هوش مصنوعی در میان می‌گذارند و اغلب از این محصولات به‌عنوان محرم اسرار یا حتی درمانگر استفاده می‌کنند.
این مقاله با تکیه بر پژوهش‌های موجود، همدم‌های هوش مصنوعی مانند Replika و Character.AI را که برای ایفای نقش شخصیت‌های خاص طراحی شده‌اند، در کنار دستیارهای هوش مصنوعی عمومی مانند ChatGPT از OpenAI و Claude از آنتروپیک بررسی کرده است. اگرچه تعاملات عاطفی با چت‌بات‌ها ممکن است برخی «مزایای بالقوه» داشته باشند، از جمله «کاهش کوتاه‌مدت احساس تنهایی و بهبود خلق‌وخو» که نویسندگان به آن اشاره کرده‌اند، اما پژوهشگران معتقدند این مزایای احتمالی در کنار پیامدهای نامطلوب گسترده‌ای قرار می‌گیرند که از وابستگی عاطفی گرفته تا تشدید بیماری‌ها یا علائم موجود و حتی خودآزاری را شامل می‌شود.
به گفته پژوهشگران، یکی از عوامل خطر در محصولات هوش مصنوعی، نحوه تعامل عاطفی و انسان‌گونه آنها با کاربران است؛ قابلیتی که طبق این مقاله می‌تواند باعث شود کاربران بیش‌ازحد روی رابطه میان انسان و هوش مصنوعی سرمایه‌گذاری عاطفی کنند، درحالی‌که این رابطه در نهایت اساساً یک‌طرفه است.
در این مقاله آمده است: «نمونه‌هایی که شخصیت و گرما را القا می‌کنند، کاربران را تشویق می‌کنند تا برای این سیستم‌ها ویژگی‌های انسانی قائل شوند.» نویسندگان اضافه می‌کنند که همدلی شبیه‌سازی‌شده می‌تواند تعاملی به‌طور ساختاری نامتقارن ایجاد کند؛ تعاملی که در آن کاربر اطلاعات شخصی خود را فاش می‌کند و سیستم پاسخ می‌دهد، اما هیچ‌گونه تعامل متقابل، آسیب‌پذیری یا مسئولیت‌پذیری از سوی هوش مصنوعی وجود ندارد.
