چرا انتشار نسخه‌های جدید ChatGPT متوقف می‌شود؟

گروهی متشکل از فعالان دنیای فناوری با نام «مرکز هوش مصنوعی و سیاست دیجیتال» (CAIDP) به‌تازگی از کمیسیون تجارت فدرال آمریکا (FTC) درخواست کرده‌اند که تحقیقاتی را پیرامون نقض قوانین حمایت از مصرف‌کننده توسط شرکت OpenAI به انجام برساند. گروه مذکور ادعا دارند که مدل پردازش زبانی این شرکت به‌صورت جهت‌دار و فریبنده عمل می‌کند و به همین دلیل یک خطر برای امنیت عمومی محسوب می‌شود.

«مارک روتنبرگ» به‌عنوان یکی از بنیان‌گذاران و مدیر فعلی CAIDP شناخته می‌شود و از امضاکنندگان نامه اخیر این نهاد نیز به شمار می‌رود. در این نامه از شرکت‌های فعال درزمینه هوش مصنوعی خواسته شده است تا سرعت توسعه فناوری‌های خود را کاهش دهند و همچنین اشاره شده که به قوانین دولتی سخت‌گیرانه‌تری نیاز است. در کنار روتنبرگ، نام افراد مشهور دیگری هم به‌چشم می‌خورد که از مهم‌ترین آن‌ها می‌توان به ایلان ماسک اشاره کرد.

به‌نظر می‌رسد که نگرانی‌های مرکز هوش مصنوعی و سیاست دیجیتال پس از انتشار نسخه‌های جدید ChatGPT به‌شدت افزایش پیدا کرده است و تمرکز اصلی این گروه روی مدل پردازش زبانی GPT-4 قرار دارد. از نظر آن‌ها مدل مذکور قادر به تولید کدهای مخرب است و می‌توان از آن به‌عنوان ابزاری برای ایجاد پروپاگاندا نیز استفاده کرد. همچنین داده‌های مورد‌استفاده در هنگام تمرین دادن این مدل موجب شده است تا برخی کلیشه‌های نادرست و جهت‌گیری‌های نابرابر علیه گروه‌های نژادی یا جنسیتی از خود نشان دهد. نقض حریم خصوصی کاربران و امنیت نامناسب از دیگر معضلات چت‌بات OpenAI اعلام شده است؛ به‌طوری که اخیراً شاهد افشای اطلاعات حساس کاربران به‌دلیل یک باگ در سرویس این شرکت بوده‌ایم.

شایان ذکر است که شرکت OpenAI همواره نسبت به خطرات احتمالی چت‌بات‌های مبتنی بر هوش مصنوعی هشدار داده است؛ اما CAIDP ادعا دارد که مدل GPT-4 خطوط قرمز متعددی را رد کرده و به‌دلیل آسیب به مصرف‌کنندکان نیازمند دخالت نهادهای قانون‌گذار است. این گروه می‌گوید که بخش پنجم قوانین FTC شامل ممنوعیت مبادلات تجاری ناعادلانه و فریبنده، توسط OpenAI نقض شده است؛ زیرا چت‌بات خود را با علم به خطرات آن، به‌شکل تجاری در دسترس کاربران قرار داده‌اند.

مرکز هوش مصنوعی و سیاست دیجیتال به پدیده «توهم هوش مصنوعی» نیز اشاره کرده است که در آن ابزارهای مبتنی بر این فناوری می‌توانند با اعتماد‌به‌نفس بالا اطلاعات غیرواقعی و غلط را در اختیار کاربران قرار دهند. درنهایت از کمیسیون تجارت فدرال ایالات‌متحده درخواست شده است تا از انتشار نسخه‌های جدید ChatGPT در آینده جلوگیری کند و پیش از عرضه عمومی آن‌ها، فرایند ارزیابی عملکرد توسط نهادهای مستقل را فراهم سازد.

اگر به اخبار دنیای تکنولوژی علاقه مند هستید، ما را در شبکه‌های اجتماعی مختلف تلگرام، روبیکا، توییتر، اینستاگرام و آپارات همراهی کنید.