اینستاگرام قصد دارد با استفاده از یک فیلتر هوش‌مصنوعی، نظرات توهین‌آمیز و اسپم‌ها را متوقف و حذف کند.

اوایل همین ماه، فیسبوک اعلام کرد که استفاده از یک هوش‌مصنوعی زبانی به نام DeepText را روی پلت‌فرم خود شروع کرده است. زبان پیچیده است و به منظور درک بهتر مقصود (برای مثال، بخش مهمی از متوقف کردن یک سخن نفرت‌آمیز)، هر برنامه کامپیوتری نیاز دارد بفهمد که انسان‌ها چگونه از زبان استفاده می‌کنند. اکنون، اینستاگرام، که متعلق به فیسبوک است، اعلام کرده که استفاده از DeepText برای حذف نظراتی که از دستورالعمل‌های جامعه اینستاگرام تخطی می‌کنند را شروع کرده است.

دیپ‌تکست در حال حاضر در فیسبوک موضع محدودی دارد، اما بلافاصله بعد از یادگیری در مورد هوش‌مصنوعی، افراد برجسته اینستاگرام خواستند که آن را روی پلت‌فرم خود تست کنند. آن‌ها ابتدا به جای تمرکز روی نظرات بد و مغرضانه، روی اسپم‌ها تأکید کردند و از کارکنان انسانی درخواست کردند که مجموعه عظیمی از نظرات را خوانده و اسپم‌ها را به صورت دستی گزارش دهند. آن‌ها سپس بیشتر این داده‌ها را درون دیپ‌تکست وارد کردند، که این کار الگوریتم‌هایی را ایجاد کرد که بر اساس مواردی بود که در نظرات اسپم پیدا کرده بود. این تیم سپس برگشت و الگوریتم را در بخش داده‌های فیلترشده انسانی که آن‌ها در اختیار داشتند، تست کرد.

اگرچه دقیقاً واضح نیست که دیپ‌تکست در این اجرای آزمایشی تا چه حد خوب کار کرد، Wired گزارش کرد که کوین سیستروم، مدیرعامل اینستاگرام، از نتیجه خوشنود بوده است. اکنون، اینستاگرام تعدیل کننده نظرات مبتنی بر دیپ‌تکست را منتشر کرده است، اما مقصود آن دوگانه است. اگرچه این سیستم واقعاً با نظرات اسپم مبارزه می‌کند، اینستاگرام یک فیلتر هم در نظر دارد تا نظرات توهین آمیز و بدخواهانه را پنهان کند. این فیلتر در حال حاضر فقط به زبان انگلیسی در دسترس است، اما این سرویس در نظر دارد به زودی این فیلتر را برای زبان‌های بیشتری منتشر کند.

زمان خواهد گفت که دیپ‌تکست تا چه حد در اینستاگرام خوب کار می‌کند؛ سخنان نفرت‌انگیز و اسپم‌ها احتمالاً از طریق فیلتر حذف می‌شوند، اما ممکن است نظرات مشروع هم گرفته شوند؟ امکان آن وجود دارد. اما سخنان تنفرانگیز در سراسر پلت‌فرم‌های رسانه اجتماعی تبدیل به یک امر عادی شده‌اند؛ اگر دیپ‌تکست این شانس را داشته باشد که وضعیت را بهتر کند، یک پیروزی خواهد بود.

با کانال تلگرام فیسیت همراه باشید