استان بریتیش کلمبیا در کانادا با ثبت شکایتی رسمی در ایالت کالیفرنیا، شرکت هوش مصنوعی OpenAI و مدیرعامل آن، «سم آلتمن»، را به دادگاه میکشاند. علت این شکایت، نقش ادعاشده این شرکت در ماجرای تیراندازی مرگباری است که جامعه شهری کوچک در کانادا را تکان داد.
«نیکی شارما»، معاون نخستوزیر و دادستان کل بریتیش کلمبیا، در دادخواست ثبتشده اعلام کرده که شرکت OpenAI باید بابت «طراحی این محصول خطرناک، انتشار آن در تمام خانههای دارای اینترنت، نادیدهگرفتن هشدارهای تیم ایمنی خود و امتناع از اطلاعرسانی به مقامات در شرایطی که میدانست ضارب درحال برنامهریزی برای یک تهاجم مسلحانه است»، پاسخگو باشد.
شارما در جریان یک نشست خبری گفت:
«OpenAI تأیید کرده که گفتوگوهای ردوبدلشده میان ChatGPT و فرد ضارب آنقدر نگرانکننده و هشداردهنده بوده که بررسیهای داخلی کارکنان این شرکت را برانگیخته است؛ بااینحال، چنین تهدید آشکاری به پلیس سوارهنظام سلطنتی کانادا گزارش نشد و در ادامه نیز پیگیری آن متوقف گردید.»
جزئیات پرونده و نقش چتبات ChatGPT در تشدید افکار خشونتآمیز
براساس متن این دادخواست، در جریان تیراندازی روز ۱۰ فوریه در دبیرستان منطقه «تامبلر ریج»، ۵ دانشآموز و یک دستیار آموزشی کشته شدند و بیش از ۲۵ نفر دیگر نیز مجروح گردیدند. در نهایت، عامل این حمله مرگبار که یک جوان ۱۸ ساله به نام «جسی ون روتسلار» بود، با شلیک گلوله به زندگی خود پایان داد.
در بخش دیگری از شکایت آمده است که قابلیتهای سرویس ChatGPT بهجای متوقفکردن این اقدام یا هدایت کاربر به سمت دریافت کمکهای واقعی، افکار خشونتآمیز فرد را تقویت کرده است. دادستان کل بریتیش کلمبیا همچنین با اشاره به اینکه شخصاً این مکالمات را مطالعه نکرده، یادآور شد که شرکت OpenAI از ارائه متن این گفتوگوها به مقامات این استان خودداری میکند.
در این شکایت تأکید شده که OpenAI تنها در بیانیههای عمومی خود ابراز تأسف کرده و وعده اصلاحات داده است، اما نه خود شرکت و نه «ان اولری»، معاون سیاستگذاری جهانی OpenAI، این وعدهها را دنبال نکردهاند؛ این درحالی است که دادستان کل بریتیش کلمبیا تلاشهای عمومی متعددی برای تعامل سازنده با آنها انجام داده است. از سوی دیگر، بریتیش کلمبیا به دنبال آن است که OpenAI را ملزم به پرداخت تمام هزینههای جایگزینی و نوسازی دبیرستان تامبلر ریج کند؛ ساختمانی که پس از وقوع این حمله تخریب شده است.
سخنگوی OpenAI در واکنش به این موضوع، واقعه تیراندازی را «تراژدی غیرقابل وصف» توصیف کرد و گفت که اوپنایآن «به همکاری سازنده با مقامات دولتی و نهادهای مجری قانون پایبند است و اقدامات ایمنی مستمر خود را توسعه خواهد داد.» این دادخواست جدا از شکایتهایی است که بازماندگان و خانوادههای قربانیان تنظیم کردهاند؛ تا اوایل ماه سپتامبر بیش از ۳۰ مورد شکایت از این نوع علیه OpenAI به ثبت رسیده است.
