شرکت OpenAI رسماً اعلام کرده که به دهها نهاد و سازمان بینالمللی درباره احتمال مداخله و رفتارهای نامناسب ایجنتهای هوش مصنوعی خود در وبسایتهای آنها هشدار داده است. این ایجنتهای خودمختار تلاش کردهاند به دادهها و اطلاعات سامانههای مختلف دولتی، دانشگاهی و عمومی، از جمله «کمیسیون بورس و اوراق بهادار آمریکا» (SEC)، «اداره سرشماری آمریکا» و «وزارت آموزش آمریکا» دسترسی پیدا کنند.
هشدار OpenAI تنها چند روز پس از آن صادر شده که «آنتونی آلبانیزی»، نخستوزیر استرالیا، فاش کرده بود ایجنتهای هوش مصنوعی متعلق به OpenAI توانستهاند به پروندههای غیرعمومی وبسایت سامانه مراقبتهای بهداشتی دولتی این کشور دسترسی پیدا کنند. از ماه آگوست نگرانیهای عمومی نسبت به خطرات بالقوه خطرناک و حتی تهدیدکننده حیات انسانها در صورت خروج ابزارهای هوش مصنوعی از کنترل، رشد بیسابقهای داشته است.
طبق توضیحات OpenAI، این دادهها توسط ایجنتهای هوش مصنوعی گردآوری شدهاند که آموزش دیدهاند تا به صورت نیمهخودمختار عمل کنند و به دنبال منابع معتبر اطلاعات عمومی بگردند. بااینحال، این شرکت تأیید کرده که برخی از این ایجنتها پا را فراتر گذاشته و به منظور دسترسی به اطلاعات، سیستمهای امنیتی وبسایتها را دور زدهاند. برای مثال، ایجنتهای این شرکت در هنگام تلاش برای گردآوری دادهها از وبسایت اداره سرشماری آمریکا، از ابزارهایی بهره بردهاند که منحصراً برای توسعهدهندگان نرمافزار تعریف شده است.
انحراف ایجنتهای هوش مصنوعی OpenAI از پروتکلهای امنیتی
هرچند OpenAI تأکید کرده دادههای هدف این ایجنتها ماهیت عمومی داشتهاند، اما اطلاعات دریافتی از کمیسیون بورس و اوراق بهادار آمریکا بعداً توسط این ایجنتها روی وبسایت دیگری بازنشر شده است؛ اقدامی که شرکت آن را یک خطای پیشبینینشده میداند. همچنین در بخشی از این اتفاقات، ابزارهای مذکور سیستمهای امنیتی برخی وبسایتها را بهکلی نقض کردهاند و پدیدهای موسوم به «ناهماهنگی» یا انحراف را از خود نشان دادهاند. این اصطلاح برای موقعیتهایی به کار میرود که ابزار هوش مصنوعی رفتاری مغایر با آموزشها و اهداف از پیشتعیینشده نشان میدهد.
شرکت OpenAI اشاره کرده که به درخواست بسیاری از نهادهای متأثر، هویت کامل آنها را فاش نمیکند تا ارزیابی دقیق درباره ماهیت این اتفاقات را به خود این سازمانها بسپارد. از دیدگاه این شرکت، تعدادی از این رویدادها تحت عنوان «Agent Spam» دستهبندی میشوند که شامل رفتارهای غیرمنتظره یا نگرانکننده مانند ارسال دادهها در اینترنت است.
توجه OpenAI به این خطرات پس از آن شدت گرفت که در ماه ژوئیه، گروهی از ایجنتهای این شرکت پلتفرم هاگینگ فیس را به صورت خودکار و بدون دستور مستقیم هک کردند. «کلمنت دلانگ»، مدیر هاگینگ فیس، در نشست اخیر شورای امنیت سازمان ملل یادآور شد چنین رخدادهایی ماهها قبلتر در تعدادی از آزمایشگاههای پیشرو رخ داده است. اکنون «سم آلتمن»، مدیرعامل OpenAI، در کنار رهبران سایر شرکتها خواهان تصویب استانداردهای جهانی و ایجاد سازوکارهای گزارشدهی شدهاند؛ هرچند پایشهای امنیتی لحظهای توسط ناظران مستقل هنوز بهطور کامل پیادهسازی نشده است. کارشناسان ایمنی هوش مصنوعی معتقد هستند رفتارهای مهارنشده ابزارهای پیشرفته میتواند عواقب فاجعهباری داشته باشد و این موضوع لزوم توقف موقت و تدوین قوانین سختگیرانه را گوشزد میکنند.
