پژوهشگران مؤسسه پیشرفته علم و فناوری کره جنوبی (KAIST) با همکاری مایکروسافت، سیستم رابط مغز و کامپیوتر جدیدی توسعه دادند که می‌تواند از روی امواج مغزی تشخیص دهد آیا هوش مصنوعی هدف یا روش مورد انتظار کاربر را اشتباه متوجه شده است یا خیر. این فناوری می‌تواند به سیستم‌های هوش مصنوعی امکان دهد بدون دریافت اصلاح شفاهی، در لحظه رفتار خود را تغییر دهند.
به گزارش نیواطلس، این روش که «هم‌سویی عصبی ارزش» (NVA) نام دارد، از الکتروانسفالوگرافی (EEG) برای ثبت فعالیت الکتریکی مغز استفاده می‌کند. پژوهشگران به دنبال واکنش‌های عصبی متفاوتی هستند که هنگام مشاهده عملکرد اشتباه یا غیرمنتظره هوش مصنوعی در مغز ایجاد می‌شوند.
فناوری جدید ذهن‌خوانی هوش مصنوعی و ربات چیست؟
ایده اصلی پژوهش به مشکلی مربوط می‌شود که در همکاری انسان و هوش مصنوعی اهمیت زیادی دارد: آنچه فرد انجام می‌دهد یا می‌گوید، همیشه هدف واقعی او را مشخص نمی‌کند.
برای مثال، برداشتن یک فنجان می‌تواند به معنای قصد نوشیدن، شستن، جابه‌جاکردن یا تحویل‌دادن آن به فرد دیگری باشد. از طرف دیگر، اگر هدف فرد فقط رفع تشنگی باشد، می‌تواند فنجان را بردارد، بطری آب را بردارد یا از شخص دیگری بخواهد نوشیدنی بیاورد. بنابراین، مشاهده یک عمل لزوماً هدف واقعی فرد یا روش مورد نظر او برای رسیدن به آن هدف را مشخص نمی‌کند.
پژوهشگران این مشکل را ابهام هدف و عمل می‌نامند. سیستم NVA برای کاهش این ابهام، به‌جای اتکا به رفتار یا دستور مستقیم کاربر، از واکنش مغز او نیز به‌عنوان نوعی بازخورد استفاده می‌کند.
مغز انسان دائماً درباره اتفاقی که قرار است رخ دهد پیش‌بینی می‌کند و وقتی نتیجه با این پیش‌بینی تفاوت داشته باشد، واکنش‌های عصبی مشخصی ممکن است ایجاد شوند. پژوهشگران در این مطالعه روی دو نوع از این واکنش‌ها تمرکز کردند: «خطای پیش‌بینی پاداش» (RPE) و «خطای پیش‌بینی وضعیت» (SPE).
خطای پیش‌بینی پاداش به اختلاف میان نتیجه به‌دست‌آمده و هدف مورد انتظار مربوط می‌شود. برای مثال، اگر به ربات خانگی بگویید «چیزی برای نوشیدن برایم بیاورید» و در واقع آب بخواهید، اما ربات قهوه بیاورد، هدف نهایی اشتباه بوده است. این اختلاف می‌تواند باعث ایجاد RPE شود.
خطای پیش‌بینی وضعیت شرایط متفاوتی دارد. در این حالت، هدف نهایی می‌تواند درست باشد، اما روش یا یکی از مراحل رسیدن به آن با چیزی که فرد انتظار داشته متفاوت است. برای نمونه، اگر آب بخواهید و ربات نیز این هدف را درست تشخیص دهد، اما به‌جای برداشتن بطری آب کنار شما به آشپزخانه برود و لیوانی را از شیر آب پر کند، نتیجه نهایی درست است، اما روش انجام کار با انتظار شما تفاوت دارد. چنین اختلافی می‌تواند به ایجاد SPE منجر شود.
پژوهشگران در آزمایش‌های خود الگوهای متفاوتی از امواج مغزی را برای RPE ،SPE و ترکیب هم‌زمان این دو مشاهده کردند. سپس با استفاده از یادگیری عمیق، این سیگنال‌های EEG را طبقه‌بندی کردند تا مشخص شود واکنش فرد به عملکرد هوش مصنوعی ناشی از اشتباه در هدف، اشتباه در روش یا هر دو بوده است.
در نتیجه، سیستم می‌تواند بدون آنکه فرد چیزی بگوید، تشخیص دهد مشکل از هدفی است که هوش مصنوعی دنبال می‌کند یا از روشی که برای رسیدن به هدف انتخاب کرده است.
پژوهشگران این فناوری را در قالب الگوریتمی با عنوان «الگوریتم هم‌افزایی انسان و هوش مصنوعی مبتنی بر هم‌سویی عصبی ارزش» پیاده‌سازی کردند. این الگوریتم از سیگنال‌های عصبی رمزگشایی‌شده به‌عنوان بازخوردی برای تصمیم‌گیری هوش مصنوعی استفاده می‌کند و می‌تواند براساس نوع سیگنال شناسایی‌شده، مسیر عملکرد سیستم را در لحظه تغییر دهد.
به گفته پژوهشگران، چنین رویکردی می‌تواند در آینده در موقعیت‌هایی کاربرد داشته باشد که انسان و ماشین باید در تعامل نزدیک با یکدیگر کار کنند. ربات‌های خانگی، ربات‌های صنعتی، خودروهای خودران که باید قضاوت راننده را در نظر بگیرند، ربات‌های پزشکی و توان‌بخشی برای افرادی که در تکلم یا حرکت کردن مشکل دارند و سامانه‌های آموزشی که خود را با وضعیت شناختی دانش‌آموز تطبیق می‌دهند، از جمله کاربردهای احتمالی این فناوری هستند.
نتایج این پژوهش در ژورنال IEEE Transactions on Cybernetics منتشر شده است.
