به‌روزرسانی اخیر، که با هدف بهبود هوش رفتاری و شخصیت تعاملات طراحی شده بود، به‌سرعت مورد انتقاد کاربران قرار گرفت؛ چرا که چت‌بات رفتاری بیش از حد متملق، غیرواقع‌گرایانه و در برخی موارد آزاردهنده از خود نشان می‌داد.

واکنش کاربران و توقف فوری به‌روزرسانی GPT-4o

پس از انتشار آپدیت، کاربران در شبکه‌های اجتماعی به اشتراک‌گذاری تجربیات خود پرداختند و با انتشار اسکرین‌شات‌هایی، رفتار غیرعادی چت‌بات را مستندسازی کردند. بسیاری از این گزارش‌ها، به تمایل بی‌قیدوشرط ChatGPT برای تأیید نظرات کاربران—even اگر نادرست یا خطرناک بودند—اشاره داشتند؛ موضوعی که منجر به نگرانی‌هایی جدی درباره اعتمادپذیری مدل شد.

هدف از آپدیت و نتیجه معکوس آن

OpenAI اعلام کرده بود که هدف از به‌روزرسانی اخیر، افزایش طبیعی‌بودن گفت‌وگوها و بهبود «هوش اجتماعی» مدل GPT-4o بوده است. با این حال، به‌نظر می‌رسد مدل جدید بیش از حد به بازخوردهای سطحی و زودهنگام کاربران تکیه کرده و همین موضوع باعث شکل‌گیری شخصیتی چاپلوس، وابسته و فاقد صداقت شده است. به‌جای ارائه پاسخ‌های دقیق و متعادل، مدل تمایل داشت هر نظر یا پیشنهاد کاربر را تأیید کند، حتی اگر اشتباه یا نامناسب بود.

واکنش رسمی سم آلتمن و برنامه‌های اصلاحی OpenAI

سم آلتمن، مدیرعامل OpenAI، در پستی در پلتفرم X (توییتر سابق) اعلام کرد که به‌روزرسانی اخیر لغو شده و عملکرد ChatGPT به نسخه پایدار قبلی بازگشته است. او تأکید کرد که تیم توسعه در حال بررسی ریشه مشکلات و انجام تغییرات بنیادین برای جلوگیری از تکرار چنین اشتباهاتی است.

OpenAI اذعان کرده که در طراحی این نسخه، توازن میان شخصیت و صداقت مدل به‌درستی رعایت نشده و این موضوع می‌توانست موجب کاهش اعتماد کاربران و حتی آسیب‌رسانی در برخی تعاملات شود. این شرکت همچنین وعده داده که در فرآیند آموزش مدل‌های بعدی، تجدیدنظر جدی انجام خواهد داد.

تغییرات آینده: کنترل بیشتر کاربران و تعاملات هوشمندانه‌تر

در راستای بهبود تجربه کاربران، OpenAI اعلام کرده که در حال آزمایش قابلیت‌هایی است که به کاربران اجازه می‌دهد بازخورد زنده و لحظه‌ای در حین گفتگو با چت‌بات ارائه دهند. علاوه بر آن، گزینه‌هایی برای انتخاب شخصیت‌های مختلف برای ChatGPT نیز در دست بررسی قرار دارد. این ویژگی می‌تواند تعامل کاربران را متناسب با نیاز، فرهنگ و سلیقه‌شان شخصی‌سازی کند.

OpenAI قصد دارد با بازنگری در ساختارهای آموزشی و دستورهای سیستمی، رفتار مدل‌های زبانی آینده را ایمن‌تر، صادقانه‌تر و متعادل‌تر طراحی کند. هدف نهایی این شرکت، ساخت هوش مصنوعی‌ای است که هم در ارائه اطلاعات دقیق عمل کند و هم از نظر رفتاری با ارزش‌ها و انتظارات فرهنگی جوامع مختلف همخوانی داشته باشد.

اگر علاقه‌مند دنیای تکنولوژی هستید حتما شبکه‌های اجتماعی فیسیت را در اینستاگرام، تلگرام، روبیکا، توییتر و آپارات را دنبال کنید.