آموزش مدلهای هوش مصنوعی با کمک مدلهای دیگر به یکی از اهداف محبوب آزمایشگاههای هوش مصنوعی تبدیل شده و حالا یکی از پژوهشگران برنامه Fellows شرکت آنتروپیک، تصویری اولیه از نحوه عملیشدن این ایده ارائه کرده است.
آنتروپیک اخیراً مقالهای با عنوان «تحقیق خودکار میتواند بهطرزی قابلاعتماد شکست در فرایند همراستایی را کاهش دهد» منتشر کرد که در آن گفته شده سیستمهای هوش مصنوعی چگونه میتوانند عملکرد یک مدل را در مجموعهای از معیارهای همراستایی بهبود دهند. این سیستمهای خودکار با دریافت ۱۰ معیار برای رفتارهایی که همراستا نبودند، توانستند عملکرد مدل را در تمامی معیارها بهبود دهند، بدون اینکه به عملکرد کلی آن لطمهای وارد شود.
این سیستم که «چن یوئه-هان»، پژوهشگر برنامه Fellows، آن را هدایت کرده، بخش زیادی از فرایند سنتی پژوهش را شبیهسازی میکند. هر سیستم خودکار در منابع علمی موجود جستوجو میکند، روشی را برای کار پیشنهاد میدهد و سپس مدل را با استفاده از آن روش بهمدت ۳۰ دقیقه آموزش میدهد. این فرایند طی چندین مرحله تکرار میشود و معیار موردنظر بهتدریج بهبود پیدا میکند. روشهای مؤثر حفظ و روشهای ناکارآمد حذف میشوند تا سیستم بتواند با سرعت زیاد و در مقیاس بالا فعالیت کند.
هوش مصنوعی به سمت بهبود خودکار خودش پیش میرود
در این مقاله آمده است: «در مجموع، این نتایج شواهد اولیهای ارائه میکنند که نشان میدهد آموزش تکمیلی خودکار برای بهبود فرایند همراستایی میتواند در آینده نزدیک عملی شود.»
این پژوهش گامی بهسوی «خودبهبوددهی بازگشتی» (Recursive Self-Improvement) محسوب میشود؛ مفهومی که بسیاری آن را گام مهم بعدی در پیشرفت هوش مصنوعی میدانند. اگر مدلها بتوانند فرایند همراستایی خود را بهبود دهند، این احتمال وجود دارد که بتوانند روشهای آموزشی را در مقیاس گستردهتر نیز ارتقا دهند؛ اتفاقی که میتواند در نهایت پژوهش هوش مصنوعی را منسوخ کند.
مقاله حاضر از پرداختن به این احتمال پرهیز نمیکند و سیستم «پژوهشگر خودکار همراستایی» (AAR) را مستقیماً در مقابل نمونه انسانی قرار میدهد. طبق این مقاله، «بهترین روش AAR بهطور میانگین ظرف شش ساعت موفق میشود چیزی پیشنهاد دهد که از پیشنهاد پژوهشگران باتجربه بهتر عمل میکند.»
مقایسه هزینهها نیز قابلتوجه است. پژوهشگران میگویند هر AAR برای استنتاج از طریق API حدود ۴ دلار در ساعت هزینه دارد، درحالیکه هزینه پژوهشگران انسانی حدود ۱۵۰ دلار در ساعت است.
البته این رویکرد محدودیتهایی نیز دارد. سیستم خودکار تنها زمانی میتواند عملکرد مناسبی داشته باشد که معیارهای آزمایش واقعاً اهداف همراستایی را منعکس کنند. حتی در این صورت نیز ایجاد و حفظ این معیارها به تلاش قابلتوجهی نیاز دارد. علاوهبراین، منابع علمی مورد استفاده پژوهش خودکار نیز باید حفظ و گسترش داده شوند.
