بررسیهای جدید نشان میدهد OpenAI در قالب پروژهای با نام «Project Lily» از صدها نیروی قراردادی برای بررسی، خلاصهسازی و ارزیابی مکالمات واقعی کاربران ChatGPT استفاده میکند. طبق این گزارش، دستمزد برخی از این نیروها بیش از ۵۰ دلار در ساعت است و با وجود حذف نام حسابها و استفاده از سامانههای خودکار برای پنهانسازی اطلاعات شخصی، بخشی از اطلاعات خصوصی کاربران همچنان ممکن است در اختیار ارزیابان قرار بگیرد.
به گزارش دنیای برند؛ هدف اصلی پروژه Lily کمک به ChatGPT برای ارائه پاسخهایی طبیعیتر و شبیهتر به گفتوگوی انسانی عنوان شده است. نیروهای قراردادی، پیام کاربر را بررسی میکنند، مشخص میکنند کاربر دقیقاً چه چیزی میخواسته و سپس چهار پاسخ احتمالی هوش مصنوعی را در مقیاسی از یک تا هفت ارزیابی میکنند.
راهنماهای آموزشی فاششده برای این ارزیابان نشان میدهد آنها باید پاسخهایی را که بیش از حد شبیه زبان ماشینی هستند امتیاز کمتری بدهند، استفاده از نشانههای تأیید مانند علامتهای تیک را کاهش دهند و با پاسخهایی که بیش از اندازه کاربر را تحسین میکنند یا افکار غیرمنطقی او را تأیید میکنند، برخورد کنند. همچنین از ارزیابان خواسته شده مطمئن شوند ChatGPT وانمود نمیکند که تجربه واقعی زندگی یک انسان را داشته است.
اگرچه بخش قابل توجهی از مکالمات بررسیشده شامل درخواستهای معمولی است، ارزیابان در برخی موارد با اطلاعات شخصی و جزئیات خصوصی زندگی کاربران نیز مواجه شدهاند. آنها همچنین گفتهاند دستورالعملهای ارزیابی دائماً تغییر میکند و گاهی حتی دستورهای متناقضی در اختیارشان قرار میگیرد.
پروژه Lily فقط برای بهبود پاسخهای ChatGPT نیست؛ در این فرایند، انسانها با مکالمات واقعی کاربران مواجه میشوند و کیفیت پاسخهای مختلف را ارزیابی میکنند.
OpenAI نام حساب کاربران را از مکالمات حذف میکند و متن گفتوگوها را از طریق سامانهای برای شناسایی و حذف اطلاعات خصوصی بررسی میکند. با این حال، این سامانه همیشه نمیتواند اطلاعات شخصی را بهدرستی تشخیص دهد. حتی خود OpenAI نیز اعلام کرده که نامهای غیرمعمول یا اطلاعات شخصی مبهم ممکن است از این فیلتر عبور کنند.
🎯 برای اطلاع از جدیدترین تحولات برندها، همراه ما باشید
تلگرام | اینستاگرام | لینکدین
نگرانی مهمتر این است که طبق گزارش، ارزیابان گاهی خلاصهای از حافظه کاربر را نیز در بالای مکالمهای که در حال بررسی آن هستند مشاهده میکنند. این خلاصه میتواند بر اساس گفتوگوهای قبلی، اطلاعاتی درباره شغل، محل زندگی یا پیشینه شخصی کاربر در اختیار ارزیاب قرار دهد.
درخواست از ChatGPT برای محرمانه نگه داشتن یک مکالمه، بهتنهایی مانع استفاده از آن در فرایندهای مرتبط با آموزش مدل نمیشود.
اگر میخواهید مکالمات آینده شما برای بهبود مدل استفاده نشود، باید این گزینه را بهصورت دستی غیرفعال کنید. برای این کار وارد تنظیمات ChatGPT شوید، بخش کنترل دادهها را باز کنید و گزینه «بهبود مدل برای همه» را خاموش کنید.
البته خاموش کردن این گزینه، مکالمات قبلی را که ممکن است پیشتر وارد فرایند بررسی شده باشند، از این فرایند خارج نمیکند.
خاموش کردن گزینه «بهبود مدل برای همه» فقط روی مکالمات آینده اثر میگذارد و تضمینی برای حذف گفتوگوهای قبلی از فرایندهای بررسی نیست.
برای اطلاعات واقعاً حساس نیز استفاده از گفتوگوی موقت یا وارد نکردن چنین اطلاعاتی در سامانههای هوش مصنوعی ابری، راهکار محتاطانهتری محسوب میشود.
