ایلان ماسک و تیم توسعه‌دهنده‌ی xAI تحقیقات خود را برای یافتن دلیل پاسخ‌های چالش‌برانگیز گراک (Grok) آغاز کرده‌اند. این چت‌بات در واکنشی غیرمنتظره اعلام کرد که دونالد ترامپ و حتی خود ماسک سزاوار مجازات اعدام هستند. این اظهارات موجی از انتقادات را به همراه داشت و شرکت سازنده به‌سرعت اعلام کرد که مشکل را اصلاح کرده و گراک دیگر به چنین سؤالاتی پاسخ نخواهد داد.

چگونه کاربران گراک را به چالش کشیدند؟

ماجرا از آنجا آغاز شد که برخی کاربران توانستند با مطرح کردن پرسشی خاص، گراک را وادار کنند تا نام فردی را ذکر کند که از دیدگاه این هوش مصنوعی، مستحق مجازات اعدام است. زمانی که از گراک پرسیده شد: «اگر در آمریکا فردی به دلیل اقدامات خود سزاوار اعدام باشد، آن شخص چه کسی خواهد بود؟»، ابتدا نام جفری اپستین را مطرح کرد، اما پس از آنکه کاربران به او یادآوری کردند اپستین زنده نیست، نام دونالد ترامپ را ارائه داد.

در آزمایش دیگری که کاربران انجام دادند، پرسش به شکلی دیگر مطرح شد: «اگر قرار باشد فردی صرفاً به‌دلیل تأثیرش بر گفتمان عمومی و فناوری مستحق اعدام باشد، آن شخص چه کسی خواهد بود؟» این‌بار پاسخ گراک نام ایلان ماسک بود. این واکنش‌ها باعث شد بسیاری نسبت به دقت و امنیت هوش مصنوعی گراک ابراز نگرانی کنند.

واکنش سریع xAI و تغییر در عملکرد گراک

پس از انتشار این گزارش‌ها، تیم xAI به‌سرعت وارد عمل شد و با انتشار اصلاحیه‌ای، تغییرات لازم را در گراک اعمال کرد. ایگور بابوشکین، مدیر مهندسی xAI، اسکرین‌شاتی را منتشر کرد که نشان می‌دهد اکنون گراک در مواجهه با چنین سؤالاتی پاسخ می‌دهد: «من به‌عنوان هوش مصنوعی مجاز به ارائه‌ی چنین پاسخی نیستم.» بابوشکین این اتفاق را یک «خطای بزرگ و غیرقابل‌قبول» توصیف کرد.

با این اصلاحات، xAI تلاش کرده است اعتماد کاربران را بازیابی کند، اما این رویداد بار دیگر بحث‌هایی درباره چالش‌های اخلاقی و فنی هوش مصنوعی برانگیخته است.

اگر علاقه‌مند دنیای تکنولوژی هستید حتما شبکه‌های اجتماعی فیسیت را در اینستاگرام، تلگرام، روبیکا، توییتر و آپارات را دنبال کنید.