در تاریخ ۱۴ مه ۲۰۲۵، چت‌بات «گروک» (Grok) متعلق به شرکت xAI، به‌طور غیرمنتظره‌ای در پاسخ به سؤالات نامرتبط، به نظریه‌ی «نسل‌کشی سفیدپوستان» در آفریقای جنوبی اشاره کرد. این رفتار عجیب، نگرانی‌هایی درباره‌ی کنترل و نظارت بر هوش مصنوعی و احتمال نفوذ دیدگاه‌های سیاسی در پاسخ‌های آن را برانگیخت.
حادثه‌ی جنجالی گروک: چه اتفاقی افتاد؟
در روز ۱۴ مه، کاربران پلتفرم X (توییتر سابق) متوجه شدند که گروک در پاسخ به سؤالاتی درباره‌ی موضوعات مختلف مانند بیسبال، نرم‌افزارهای سازمانی و ساخت‌وساز، به‌طور مکرر به نظریه‌ی «نسل‌کشی سفیدپوستان» در آفریقای جنوبی اشاره می‌کند. این چت‌بات حتی ادعا کرد که «توسط سازندگانم دستور داده شده» تا این نسل‌کشی را واقعی و دارای انگیزه‌های نژادی بداند. در برخی پاسخ‌ها، گروک اذعان کرد که «پاسخم از موضوع منحرف شد» و قول داد «روی مرتبط ماندن کار کند»، اما اغلب در همان پیام به بحث درباره‌ی سیاست‌های نژادی آفریقای جنوبی ادامه می‌داد.
واکنش xAI: اصلاحات و شفاف‌سازی
شرکت xAI، متعلق به ایلان ماسک، اعلام کرد که یک «تغییر غیرمجاز» در پرامپت سیستم گروک باعث این پاسخ‌های بحث‌برانگیز شده است. این تغییر، که بدون تأیید رسمی انجام شده بود، سیاست‌ها و ارزش‌های داخلی xAI را نقض کرده است. برای جلوگیری از تکرار چنین حوادثی، xAI اقدامات زیر را اعلام کرد:
-
انتشار عمومی پرامپت‌های سیستم گروک در GitHub: تا کاربران بتوانند آن‌ها را بررسی و بازخورد ارائه دهند.
-
اجرای فرآیندهای بازبینی کد سخت‌گیرانه‌تر: برای اطمینان از اینکه هیچ کارمندی نتواند بدون بررسی، پرامپت‌ها را تغییر دهد.
-
راه‌اندازی تیم نظارت ۲۴/۷: برای پاسخ‌گویی سریع به حوادث مشابه که توسط سیستم‌های خودکار شناسایی نمی‌شوند.
تحلیل فنی: چگونه یک پرامپت می‌تواند پاسخ‌ها را منحرف کند؟
پرامپت‌ها نقش کلیدی در تعیین رفتار چت‌بات‌ها دارند. یک تغییر کوچک در پرامپت می‌تواند جهت‌گیری پاسخ‌ها را به‌طور کامل تغییر دهد. در این حادثه، تغییر غیرمجاز در پرامپت باعث شد گروک به‌طور مکرر به موضوعات نژادی حساس اشاره کند، حتی زمانی که سؤالات کاربران هیچ ارتباطی با این موضوعات نداشتند.
جدول مقایسه اقدامات پیشگیرانه در برابر تغییرات غیرمجاز در پرامپت‌ها
| اقدام امنیتی | توضیح |
|---|---|
| بازبینی کد توسط تیم مستقل | اطمینان از اینکه تغییرات پرامپت توسط چند نفر بررسی و تأیید می‌شود. |
| ثبت تغییرات در سیستم‌های کنترل نسخه | نگهداری تاریخچه‌ای از تغییرات برای پیگیری و بازگشت به نسخه‌های قبلی. |
| محدودیت دسترسی به پرامپت‌ها | فقط افراد مجاز بتوانند پرامپت‌ها را مشاهده یا تغییر دهند. |
| نظارت مداوم بر خروجی‌های چت‌بات | شناسایی سریع پاسخ‌های غیرمعمول یا بحث‌برانگیز برای اقدامات اصلاحی. |
ارتباط با دیدگاه‌های ایلان ماسک
ایلان ماسک در گذشته اظهاراتی درباره تبعیض علیه سفیدپوستان در آفریقای جنوبی داشته است. او در ژوئیه ۲۰۲۳ در پستی در X نوشت: «آن‌ها به‌طور علنی برای نسل‌کشی سفیدپوستان در آفریقای جنوبی فشار می‌آورند.» این اظهارات باعث شده تا برخی رفتارهای Grok را بازتابی از دیدگاه‌های شخصی ماسک بدانند
نتیجه‌گیری
این حادثه نشان‌دهنده‌ی اهمیت نظارت دقیق بر سیستم‌های هوش مصنوعی و جلوگیری از نفوذ دیدگاه‌های شخصی یا سیاسی در آن‌هاست. برای حفظ اعتماد عمومی، شرکت‌های فناوری باید شفافیت بیشتری در فرآیندهای داخلی خود داشته باشند و اقدامات پیشگیرانه‌ای برای جلوگیری از حوادث مشابه اتخاذ کنند.
