نوآوری‌های هم‌افزا، الگوریتم‌های نوین

دشنام‌یاب

این سرویس با هدف حفظ اخلاق و تربیت عمومی، جلوگیری از بلایای اجتماعی و ارتقاء تجربه کاربری بهتر در محیط‌های آنلاین طراحی شده است. هدف اصلی آن تشخیص کلمات و عبارات توهین‌آمیز، حاوی نفرت‌پراکنی و الفاظ رکیک است. ورودی این سرویس یک قطعه متن (شامل کامنت، پیام یا مقاله) است و خروجی آن شامل یک برچسب طبقه‌بندی (مانند محتوای مجاز، ناسزا، یا نفرت‌پراکنی) و همچنین یک امتیاز اعتماد است. این امر از طریق تحلیل معنایی و با استفاده از مدل‌های زبان طبیعی (NLP) که بر روی مجموعه‌های داده گسترده آموزش دیده‌اند، محقق می‌شود تا لحن و قصد توهین‌آمیز در متن مورد ارزیابی قرار گیرد.

ویژگی‌ها

  • دقت بالا در شناسایی انواع مختلف توهین‌ها و الفاظ رکیک
  • قابلیت تفکیک توهین‌های صریح از توهین‌های تلویحی یا کنایه‌آمیز
  • پشتیبانی از اصطلاحات محاوره‌ای، عامیانه و رایج در محیط‌های آنلاین
  • عملکرد سریع و پاسخ‌دهی لحظه‌ای برای محیط‌های چت و شبکه‌های اجتماعی
  • امکان سفارشی‌سازی لغت‌نامه‌های ممنوعه بر اساس نیاز هر پلتفرم

موارد استفاده

  • مدیریت و اعتدال‌سازی خودکار نظرات و کامنت‌های کاربران در وبسایت‌ها و اپلیکیشن‌ها
  • فیلترینگ محتوای پیام‌ها در محیط‌های بازی‌های آنلاین جهت ایجاد فضای سالم
  • ارزیابی و کنترل کیفی محتوای تولید شده توسط کاربران در انجمن‌های عمومی
  • بهبود ایمنی و سلامت روانی کاربران در پلتفرم‌های آموزشی با حذف محتوای نامناسب
  • ابزاری برای پایش و گزارش‌دهی خودکار محتوای نفرت‌پراکنی و تهدیدآمیز