این تصمیم با یک تغییر بزرگ همراه است: «سم آلتمن»، مدیرعامل OpenAI، دیگر عضو این کمیته نخواهد بود. طبق گزارش منتشر شده در وب‌سایت رسمی OpenAI، «زیکو کولتر»، رئیس دپارتمان یادگیری ماشین دانشگاه کارنگی ملون، به عنوان رئیس جدید کمیته ایمنی و امنیت (SSC) منصوب شده است. سایر اعضای کلیدی این کمیته شامل «آدام دآنجلو»، مدیرعامل Quora، «پل ناکاسون»، ژنرال بازنشسته ارتش آمریکا، و «نیکول سلیگمن»، مشاور حقوقی سابق شرکت سونی هستند.

این کمیته جدید جایگزین کمیته قبلی خواهد شد که در ژوئن ۲۰۲۴ تأسیس شده بود و سم آلتمن نیز در آن عضویت داشت. وظیفه اصلی کمیته سابق ارائه توصیه‌هایی درباره تصمیمات مهم ایمنی و امنیتی پروژه‌های OpenAI بود.

مسئولیت‌های کمیته ایمنی OpenAI

وظایف کمیته جدید فراتر از ارائه توصیه‌ها خواهد بود. این کمیته به طور مستقیم مسئول ارزیابی‌های ایمنی مدل‌های اصلی و همچنین نظارت بر عرضه آن‌ها خواهد بود. مهم‌تر از همه، SSC این اختیار را دارد که انتشار مدل‌های جدید هوش مصنوعی را تا زمانی که به طور کامل به نگرانی‌های ایمنی رسیدگی نشده باشد، به تعویق بیندازد.

این تغییرات پس از بررسی‌های جدی در مورد تعهد OpenAI به حفظ امنیت هوش مصنوعی انجام شده است. شرکت در گذشته به دلیل انحلال تیم Superalignment و خروج تعدادی از اعضای کلیدی متمرکز بر ایمنی مورد انتقاد قرار گرفته بود. حذف سم آلتمن از کمیته ایمنی نیز به نظر می‌رسد به‌منظور رفع نگرانی‌های احتمالی درباره تضاد منافع در مدیریت ایمنی شرکت باشد.

دیگر وظایف کمیته ایمنی

از دیگر وظایف کمیته جدید، می‌توان به تقویت اقدامات امنیتی، افزایش شفافیت در فعالیت‌های OpenAI و همکاری با سازمان‌های خارجی اشاره کرد. این شرکت پیش از این توافق‌هایی برای همکاری با نهادهای ایمنی هوش مصنوعی در ایالات متحده و بریتانیا داشته تا خطرات و استانداردهای ایمنی مربوط به این فناوری نوظهور را مورد بررسی قرار دهند.

اگر علاقه‌مند دنیای تکنولوژی هستید حتما شبکه‌های اجتماعی فیسیت را در اینستاگرام، تلگرام، روبیکا، توییتر و آپارات را دنبال کنید.