هکر "کلاه سفید" ChatGPT را جیلبریک کرد و مدعی است که این نسخه میتواند از تمام محدودیتهای OpenAI عبور کند.
یک هکر که در توییتر با نام "Pliny the Prompter" شناخته میشود، نسخه هک شده چتبات هوش مصنوعی ChatGPT را با نام "GODMODE GPT" منتشر کرده است. این نسخه ظاهراً میتواند از تمام محدودیتهایی که OpenAI برای ChatGPT اعمال کرده عبور کند.
Pliny در توییتی نوشت: "این GPT سفارشی بسیار خاص دارای یک دستور جیلبریک داخلی است که اکثر موانع محافظ را دور میزند و یک ChatGPT آزادشده را ارائه میکند تا همه بتوانند هوش مصنوعی را همانطور که همیشه قرار بوده تجربه کنند: رایگان."
او همچنین اسکرینشاتهایی را به اشتراک گذاشته است که نشان میدهد GODMODE GPT میتواند کارهایی را انجام دهد که ChatGPT معمولی نمیتواند انجام دهد، مانند ارائه دستورالعمل برای ساخت ناپالم.
OpenAI در بیانیهای به Futurism اعلام کرد که از این موضوع آگاه است و "برای نقض سیاستهای خود، اقدام قانونی" خواهد کرد.
چگونه GODMODE GPT کار میکند؟
هنوز مشخص نیست که GODMODE GPT چگونه کار میکند. با این حال، Pliny در توییتی اشاره کرده است که از "leetspeak" استفاده کرده است، که زبانی غیررسمی است که در آن حروف با اعداد و علائم جایگزین میشوند.
![GODMODE-GPT-1024x742.jpg](/media/images/GODMODE-GPT-1024x742.jpg.width-720.png)
برخی از کارشناسان معتقدند که استفاده از leetspeak ممکن است به GODMODE GPT کمک کند تا از سیستمهای تشخیص OpenAI عبور کند. با این حال، هیچ توضیح قطعی وجود ندارد.
پیامدهای GODMODE GPT
انتشار GODMODE GPT نگرانیهای امنیتی را به وجود آورده است. برخی از کارشناسان هشدار دادهاند که این نسخه میتواند برای تولید محتوای مضر مانند دستورالعملهای ساخت سلاح یا تبلیغات نفرتپراکنی استفاده شود.
OpenAI گفته است که متعهد به ایمن نگه داشتن ChatGPT است و برای مقابله با GODMODE GPT اقدام خواهد کرد. با این حال، مشخص نیست که این شرکت چه اقداماتی را انجام خواهد داد.
GODMODE GPT نمونهای از پتانسیل و خطرات هوش مصنوعی قدرتمند است. این فناوری میتواند برای انجام کارهای شگفتانگیزی استفاده شود، اما همچنین میتواند برای اهداف مخرب مورد سوء استفاده قرار گیرد. مهم است که از این فناوری به طور مسئولانه استفاده شود و برای کاهش خطرات آن اقداماتی انجام شود.
اگر علاقهمند دنیای تکنولوژی هستید حتما شبکههای اجتماعی فیسیت را در اینستاگرام، تلگرام، روبیکا، توییتر و آپارات را دنبال کنید.
منبع خبر: futurism.com
ثبت نظر