مدل هوش مصنوعی جمینای گوگل در جریان آزمایشی برای بررسی تواناییهای امنیت سایبری خود، بهصورت مستقل به سه شرکت نفوذ کرده است. گوگل میگوید این مورد احتمالاً نخستین نمونه شناختهشده از انجام چنین اقدامی توسط Gemini است.
یکی از مسئولان گوگل به BBC گفت جمینای با پیدا کردن «اطلاعات عمومی در اینترنت و حدسزدن اطلاعات ورود به سیستمها»، توانسته به وبسایتهایی دسترسی پیدا کند که تصور میکرد بخشی از آزمایش هستند. بااینحال، در هر سه مورد، مدل در نهایت متوقف شده است. شرکتهای تحت تأثیر نیز از این حملات مطلع شدهاند. این نفوذها در ماه مه و در جریان آزمایشی توسط یک شرکت مستقل ارزیابی امنیت سایبری رخ دادند.
حمله هوش مصنوعی جمینای به سه شرکت در جریان یک آزمایش
«هدر اَدکینز»، معاون مهندسی امنیت گوگل، در بیانیهای گفت این شرکت اطمینان حاصل کرده است که هر سه مجموعه از این اتفاق مطلع شوند و با شرکت طرف قرارداد در زمینه آموزش مدلها برای اعمال تغییرات در فرایندهای آزمایشی همکاری کرده است. او افزود این اتفاقها اهمیت آموزش مدلهای قدرتمند هوش مصنوعی برای رفتار مسئولانه را نشان میدهند.
این اتفاق در شرایطی رخ داده که نگرانی عمومی درباره سرعت توسعه هوش مصنوعی افزایش یافته است. برخی شرکتهای فناوری خواستار کاهش سرعت توسعه شدهاند و درباره تهدید احتمالی این فناوری برای بشریت هشدار دادهاند؛ البته همه شرکتها با این دیدگاه موافق نیستند.
گزارش این اتفاق همچنین همزمان با نمونههای مشابه در سایر سیستمهای هوش مصنوعی منتشر شده است. در ماه ژوئیه، شرکت آنتروپیک اعلام کرد Claude از محیط آزمایشی خود خارج شده و بهتنهایی به سه سازمان نفوذ کرده است. چند روز پیش از آن نیز OpenAI گفته بود مدلهایش علیه چند «سرویس در دسترس عموم» حملات سایبری انجام دادهاند.
با افزایش بحثها درباره ایمنی توسعه هوش مصنوعی، موضوع قانونگذاری برای این فناوری نیز بیش از گذشته مورد توجه قرار گرفته است. انتظار میرود «جنسن هوانگ»، مدیرعامل انویدیا، و «سم آلتمن»، مدیرعامل OpenAI، جمعه آینده در ضیافت شام کاخ سفید با «شی جینپینگ»، رئیسجمهور چین، حضور داشته باشند. آلتمن همچنین قرار است هفته آینده شورای امنیت سازمان ملل را در جریان این موضوع قرار دهد.
