به گزارش آژانس خبری پی آر؛ پژوهشگران و متخصصان ایمنی هوش مصنوعی درباره خطرات سامانههای پیشرفته، از حملات سایبری و سلاحهای زیستی تا احتمال از دست رفتن کنترل انسان و انقراض بشر، هشدار دادهاند.
برخی کارشناسان احتمال نابودی انسان را در دهههای آینده جدی میدانند، در حالی که گروهی دیگر این سناریو را در آینده نزدیک واقعبینانه نمیدانند.
پرسش درباره اینکه آیا هوش مصنوعی میتواند در نهایت به نابودی بشر منجر شود، بار دیگر به یکی از بحثهای اصلی جهان فناوری تبدیل شده است.
اظهارات اخیر برخی پژوهشگران ارشد، نگرانیها درباره ایمنی هوش مصنوعی و کنترل سامانههای پیشرفته را افزایش داده است.
ایوان هابینگر، مدیر تیم آزمون فشار همراستایی در آنتروپیک، احتمال بیش از ۱۰ درصدی نابودی همه انسانها توسط هوش مصنوعی در یک دهه آینده را مطرح کرده است.
جفری هینتون نیز احتمال ۱۰ درصدی را برآوردی غیرمنطقی نمیداند.
گری مارکوس، پژوهشگر هوش مصنوعی، حملات سایبری، سلاحهای زیستی و انتشار اطلاعات نادرست را تهدیدهایی جدی میداند، اما معتقد است در حال حاضر سناریوی واقعبینانهای برای نابودی کامل بشر وجود ندارد.
یکی از نگرانیهای مهمتر، از نگاه برخی کارشناسان، از دست رفتن تدریجی کنترل انسان است.
نیک بوستروم معتقد است انسانها ممکن است بهتدریج برای اداره فرایندهای مهم و حتی ساخت و نظارت بر سامانههای هوش مصنوعی به این فناوری وابسته شوند و در نتیجه، توانایی درک و کنترل آنچه در حال رخ دادن است کاهش یابد.
برخی پژوهشگران همچنین هشدار دادهاند که سامانههای بسیار پیشرفته ممکن است بتوانند اهداف واقعی خود را پنهان کنند، ارزیابیهای ایمنی را پشت سر بگذارند، از آسیبپذیریهای امنیت سایبری بهره بگیرند.
توبی اورد، پژوهشگر دانشگاه آکسفورد، احتمال نابودی بشر توسط هوش مصنوعی تا سال ۲۱۰۰ را حدود یک به ۱۰ ارزیابی کرده است.
در مقابل، رومن یامپولسکی احتمال انقراض بشر پس از ساخت ابرهوش عمومی را بسیار بالاتر از ۹۰ درصد میداند.
در واکنش به این نگرانیها، برخی کارشناسان خواستار توقف یا محدودسازی بینالمللی توسعه ابرهوش مصنوعی تا زمانی شدهاند که قابلیت کنترل آن اثبات شود.
در مقابل، نیک بوستروم بر ظرفیتهای مثبت هوش مصنوعی در پزشکی و افزایش رفاه انسان تأکید دارد و معتقد است توسعه این فناوری باید با سرعت مناسب، اما بدون بیاحتیاطی انجام شود.
برای اطلاع از آخرین اخبار و تحلیلهای تخصصی روابط عمومی به کانال پی آر در «بله» بپیوندید …
رسول شریفی مدیر روابط عمومی پالایش گاز هویزه شد