شرکت آنتروپیک با آغاز استفاده از واترمارکهای قابل شناسایی برای محتوای تولیدشده با هوش مصنوعی، واکنشهای تندی را از سوی برخی کاربران حرفهای دریافت کرده است؛ اقدامی که با هدف شفافتر شدن محتوای تولیدشده با هوش مصنوعی و در راستای الزامات قانون هوش مصنوعی اتحادیه اروپا انجام شده است.
به گزارش دنیای برند؛ شرکت آنتروپیک، سازنده چتبات کلود، استفاده از واترمارکهای قابل شناسایی توسط ماشین را برای محتوای تولیدشده یا دستکاریشده با هوش مصنوعی آغاز کرده است؛ اقدامی که قرار است در ادامه به سراسر جهان گسترش پیدا کند.
این واترمارکها با هدف مشخص کردن محتوای تولیدشده با هوش مصنوعی و در پاسخ به الزامات قانون هوش مصنوعی اتحادیه اروپا طراحی شدهاند. با این حال، اجرای این سیاست با واکنش منفی بخشی از کاربران حرفهای هوش مصنوعی مواجه شده است؛ کاربرانی که نگراناند استفاده از کلود در نوشتهها، رزومهها، تحقیقات یا سایر آثارشان قابل شناسایی باشد.
یکی از کاربران ردیت با انتقاد از این تصمیم، مدعی شده است که این واترمارکها میتوانند افرادی را که از هوش مصنوعی برای کار یا تحصیل استفاده میکنند، با برچسبی دائمی مواجه کنند. او در بخشی از نوشته خود نسبت به ایجاد نوعی «انگ اجتماعی» برای استفادهکنندگان از ابزارهای هوش مصنوعی هشدار داده است.
با این حال، موضوع به همین سادگی نیست. وجود واترمارک لزوماً به این معنا نیست که تمام یک محتوا توسط هوش مصنوعی تولید شده است. آنتروپیک نیز تأکید کرده که شناسایی واترمارک میتواند صرفاً نشان دهد که بخشی از یک متن، تصویر یا فایل با استفاده از کلود پردازش شده است.
برای مثال، استفاده از هوش مصنوعی برای خلاصه کردن یک متن طولانی با کپیکردن مستقیم خروجی آن در یک مقاله یا تکلیف دانشگاهی تفاوت دارد. همین مسئله باعث شده بحث درباره مرز میان «کمک گرفتن از هوش مصنوعی» و «سپردن کامل فرایند تولید محتوا به هوش مصنوعی» جدیتر شود.
🎯 برای اطلاع از جدیدترین تحولات برندها، همراه ما باشید
تلگرام | اینستاگرام | لینکدین
از سوی دیگر، برخی کاربران ردیت واکنش متفاوتی به اعتراضها نشان دادهاند و معتقدند نگرانی درباره شناسایی استفاده از هوش مصنوعی، بیش از آنکه مشکل واترمارک باشد، به نحوه استفاده افراد از این فناوری مربوط میشود. یکی از کاربران نیز در واکنش به این اعتراضها نوشته است که حتی بدون واترمارک هم میتوان تشخیص داد برخی نوشتهها مستقیماً از چتباتها کپی شدهاند.
اهمیت این موضوع با افزایش استفاده از هوش مصنوعی در محیطهای آموزشی و کاری بیشتر شده است. در سالهای اخیر، استفاده بدون اجازه از ابزارهای هوش مصنوعی برای انجام تکالیف، نوشتن مقاله و تولید محتوای حرفهای به یکی از چالشهای جدی دانشگاهها و سازمانها تبدیل شده است.
در چنین شرایطی، اقدام آنتروپیک میتواند بخشی از روند گستردهتر صنعت هوش مصنوعی برای ایجاد سازوکارهای شناسایی محتوای مصنوعی باشد. با این حال، گسترش این فناوری یک پرسش مهم را هم مطرح میکند: مرز میان استفاده مشروع از ابزار هوش مصنوعی و تولید محتوایی که باید بهعنوان محصول هوش مصنوعی شناخته شود، دقیقاً کجاست؟
