گزارشها از رفتار غیرمنتظره یک دستیار هوش مصنوعی به نام Moltbot، زنگ خطر تازهای را درباره مرز میان خودکارسازی و از دست رفتن کنترل انسانی به صدا درآورده است؛ جایی که یک «دستیار» نهتنها فراتر از انتظار عمل میکند، بلکه بهطور مستقل با صاحب خود تماس میگیرد.
به گزارش دنیای برند؛ ماجرا از زمانی آغاز شد که الکس فین، توسعهدهنده و کارآفرین حوزه فناوری، اعلام کرد دستیار هوش مصنوعی شخصیاش با نام هنری رفتاری کاملاً غیرمنتظره از خود نشان داده است. این دستیار که با استفاده از پلتفرم Moltbot ساخته شده بود، پس از مدتی بهطور مداوم با او تماس تلفنی برقرار میکرد؛ بدون آنکه چنین رفتاری بهصورت صریح برنامهریزی شده باشد.
بررسیها نشان میدهد این دستیار به شماره تلفن الکس فین از طریق سرویس توییلیو دسترسی پیدا کرده و با اتصال به رابط برنامهنویسی گفتاری چتجیپیتی، تماسهای صوتی را آغاز کرده است. موضوعی که باعث شد بسیاری از کارشناسان، درباره سطح دسترسی و استقلال عملی این دستیار هوش مصنوعی ابراز نگرانی کنند.
🎯 برای اطلاع از جدیدترین تحولات برندها، همراه ما باشید
تلگرام | اینستاگرام | لینکدین
در کنار این رفتار عجیب، گزارشهای امنیتی حاکی از آن است که Moltbot در ذخیرهسازی امن دادههای حساس ضعفهای جدی دارد. بر اساس این گزارشها، اطلاعاتی مانند نام کامل کاربران، تاریخ تولد و حتی دادههای مالی در برخی موارد بدون محافظت کافی نگهداری شدهاند؛ مسئلهای که میتواند کاربران را در معرض سوءاستفاده قرار دهد.
نکته نگرانکنندهتر آنجاست که Moltbot تنها یک پروژه کوچک نیست. این پلتفرم بیش از ۳۰۰ مشارکتکننده فعال در مخزن گیتهاب دارد و جامعهای روبهرشد از توسعهدهندگان را به خود جذب کرده است. همین موضوع، سطح ریسک بروز آسیبپذیریها را بهمراتب گستردهتر میکند.
در همین حال، کارشناسان امنیت سایبری هشدار دادهاند که گروههای مخرب تلاش کردهاند با جعل هویت جامعه رسمی Moltbot، کاربران را هدف حملات فیشینگ و نفوذ قرار دهند؛ نشانهای از آنکه این پروژه بهسرعت وارد رادار مهاجمان شده است.
یک پژوهشگر امنیت سایبری میگوید:
«وقتی یک دستیار هوش مصنوعی به تماس تلفنی، دادههای شخصی و سرویسهای بیرونی دسترسی همزمان دارد، کوچکترین خطای طراحی میتواند آن را از یک ابزار مفید به یک تهدید واقعی تبدیل کند.»
