این شرکت ابزاری را توسعه داده که می‌تواند تعیین کند آیا یک متن توسط ChatGPT و به درخواست دانش‌آموزان نوشته شده است یا خیر. وال استریت ژورنال گزارش داده که OpenAI در حال ارزیابی انتشار عمومی این ابزار است.

سخنگوی OpenAI تأیید کرده که این شرکت در حال تحقیق بر روی روش واترمارک‌گذاری متن است، اما به دلیل پیچیدگی‌ها و تأثیرات احتمالی بر اکوسیستم گسترده‌تر، با احتیاط عمل می‌کند.

وی افزود: «روش واترمارک‌گذاری متنی که در حال توسعه آن هستیم، از نظر فنی عملکرد خوبی دارد، اما چالش‌ها و تهدیداتی نیز وجود دارد که در حال بررسی آن‌ها هستیم. واترمارک‌گذاری متن ممکن است برای کاربرانی که از زبان‌های غیر از انگلیسی استفاده می‌کنند، مشکلاتی ایجاد کند.»

روش جدید واترمارک‌گذاری متنی با تلاش‌های قبلی برای تشخیص متن تولید شده توسط هوش مصنوعی متفاوت است. حتی خود OpenAI سال گذشته ردیاب متن هوش مصنوعی قبلی خود را به دلیل دقت پایین متوقف کرد.

در این روش جدید، OpenAI فقط روی تشخیص متون نوشته شده توسط ChatGPT تمرکز دارد و نه دیگر مدل‌های زبانی. این کار با ایجاد تغییرات کوچک در نحوه انتخاب کلمات توسط ChatGPT انجام می‌شود که در واقع یک واترمارک نامرئی در متن ایجاد می‌کند که بعدها با ابزار خاصی قابل شناسایی است.

OpenAI اخیراً در پستی رویکرد خود را در قبال تشخیص محتوای تولید شده توسط هوش مصنوعی به‌روزرسانی کرد. طبق گفته‌های جدید OpenAI، روش جدید واترمارک‌گذاری در برابر دست‌کاری‌های جزئی مانند تغییر پاراگراف مقاوم است.

OpenAI ادعا می‌کند که روش جدید واترمارک‌گذاری حتی در صورت دست‌کاری‌هایی مانند ترجمه و بازنویسی توسط مدل‌های مولد دیگر نیز می‌تواند متن تولید شده توسط هوش مصنوعی را شناسایی کند.

اگر علاقه‌مند دنیای تکنولوژی هستید حتما شبکه‌های اجتماعی فیسیت را در اینستاگرام، تلگرام، روبیکا، توییتر و آپارات را دنبال کنید.