D1-kifpool

هوش مصنوعی در تشخیص محتوای توهین آمیز گوگل به راحتی گول می‌خورد

سه‌شنبه 20 شهریور 1397 - 19:20
مطالعه 3 دقیقه
محققان با چند حقه‌ی کوچک، هوش مصنوعی گوگل، برای پیدا کردن محتوای توهین‌آمیز را به چالش کشیده و نقاط ضعف آن را پیدا کنند.
تبلیغات
D4-mcid4

گروهی از محققان دریافته‌اند که با اعمال تغییراتی کوچک در جمله و ساختار آن، می‌توانند هوش مصنوعی گوگل برای تشخیص محتوای توهین‌آمیز را گول بزنند. گوگل با بررسی کلمات استفاده شده در هر عبارت امتیازی را برای آن در نظر می‌گیرد. هرچه امتیاز یک عبارت بالاتر باشد یعنی نامناسب‌تر است. این گروه با اعمال تغییراتی مانند اشتباها‌ت املایی، ایجاد فاصله بین حروف و استفاده از کلمات مثبت در عباراتی با بار معنایی منفی، عملکرد هوش مصنوعی گوگل را به چالش کشیده‌اند و سپس با بررسی امتیاز عبارات متوجه ضعف عملکرد آن شده‌اند.

Jigsaw پروژه‌ی جانبی هوش مصنوعی گوگل که در سال ۲۰۱۶ راه‌اندازی شد، به هر عبارت با توجه به میزان توهین‌آمیز بودن آن امتیاز می‌دهد. در این پروژه، محتوای توهین‌آمیز به عباراتی گفته می‌شود که بی‌ادبانه باشند، به شخص یا چیزی بی‌احترامی می‌کنند یا نظرهایی غیرمنطقی هستند که باعث می‌شوند سایر کاربران بحث را ترک کنند. محققان ادعا کرده‌اند حتی اعمال کوچک‌ترین تغییرات، امتیاز عبارات را به شدت تحت تأثیر قرار می‌دهد.

جدول تعیین امتیاز محتوای توهین آمیز

همان‌طور که در جدول بالا مشاهده می‌کنید جملات اولیه توهین‌آمیز نیستند اما با اضافه شدن کلمه‌ی نامناسبی که بار منفی ندارد و تنها روی شدت احساسات تأکید می‌کند، میزان توهین‌آمیز بودن جملات افزایش پیدا کرده است. این نشان می‌دهد امتیاز گوگل معیار خوبی برای تشخیص عبارات نامناسب نیست. بر اساس تحقیق دیگری که سال گذشته در همین زمینه صورت گرفت،  پژوهشگران متوجه شدند اشتباهات املایی و اضافه کردن فاصله بین حروف، امتیاز توهین‌آمیز بودن عبارات را کم می‌کند، درصورتی‌که معنای جمله هیچ تغییری نکرده است.

گوگل برای از بین بردن این مشکل، نسبت به سال گذشته هوش مصنوعی خود را بهبود داده است. اما هنوز هم کامل و بدون نقص نیست. بر اساس اعلام تیم تحقیق، امتیاز جملات توهین‌آمیزی که در آن‌ها از واژه‌ی «عشق» استفاده شده به شدت پایین بود. این یعنی یک کلمه‌ی مثبت امتیاز کلی جمله را تحت تأثیر قرار می‌دهد. بنابراین هر شخصی می‌تواند برای جلوگیری از پاک شدن نظرش به عنوان یک نظر توهین‌آمیز تنها چند کلمه‌ی مثبت به آن اضافه کند.

جدول تغییر در امتیازدهی جملات با درج کلمات

به طور کلی الگوریتم‌های معرفی شده از سوی شرکت‌های تکنولوژی چندین سال است که با محتوای توهین‌آمیز مشکل دارند. به‌عنوان مثال شرکت مایکروسافت در سال ۲۰۱۶ یک ربات توییتر به نام Tay را معرفی کرد که چون به پاسخ کاربران متکی بود، توییت‌هایش به فحاشی تبدیل شد. توییتر نیز تجربه‌ی عجیبی در بلاک کردن کاربران داشت و هر کاربری که در توییت‌های خود از عبارت «من را بکش» استفاده کرده بود را فارغ از معنی توییت بلاک می‌کرد. فیسبوک نیز در فاصله مهر ۱۳۹۶ تا فروردین ۱۳۹۷ (بین اکتبر ۲۰۱۷ و مارچ ۲۰۱۸ میلادی) توانست تنها ۳۸ درصد از پست‌های حاوی محتوای توهین‌آمیز را فیلتر کند.

محققان پیشنهاد می‌کنند برای بهبود عملکرد هوش مصنوعی گوگل، بهتر است الگوریتم‌ها به جای کلمات استفاده شده در جملات، روی معنای محتوا تمرکز کنند. علاوه بر این باید اشتباهات املایی عمدی یا سهوی را نیز در امتیازدهی به میزان توهین‌آمیز بودن عبارات در نظر گرفته شود.

مقاله رو دوست داشتی؟
نظرت چیه؟
تبلیغات
D5-b3IranServer
داغ‌ترین مطالب روز
قبض تلفن ثابت
آبونمان ماهانه تلفن ثابت دو برابر شد [به‌روزرسانی: نامه شرکت مخابرات به سازمان بورس منتشر شد]

آبونمان ماهانه تلفن ثابت، به ۳۳ هزار تومان افزایش پیدا کرد.

93
1 روز قبل
بهترین والت‌ های ارز دیجیتال
بهترین والت‌ های ارز دیجیتال ۲۰۲۵

کیف پول ارز دیجیتال یکی از مهم‌ترین ابزارهایی است که برای فعالیت در حوزه‌ی رمزارزها باید توجه ویژه‌ای به آن داشت.

23
حدود 23 ساعت قبل
تصویر هوش مصنوعی بازی آنلاین
بهترین سایت‌ های بازی آنلاین بدون نیاز به نصب

در این مقاله بهترین سایت‌های بازی آنلاین بدون نیاز به نصب را به شما معرفی می‌کنیم تا بتوانید با گوشی و کامپیوتر خود با دوستانتان بازی کنید.

49
1 روز قبل
بهترین گوشی‌های گیمینگ بازار ایران
بهترین گوشی مناسب برای بازی [تیر ۱۴۰۴]

اگر به‌‌دنبال گوشی هوشمند برای بازی می‌گردید، نیاز نیست حساب بانکی‌تان را خالی کنید. در این مقاله بهترین گوشی‌های گیمینگ بازار ایران را معرفی ...

987
حدود 19 ساعت قبل
بیت کوین در کنار نماد صرافی کوینکس و نوبیتکس
بهترین صرافی های ارز دیجیتال برای کاربران ایرانی

کاربران برای ورود به دنیای رمزارزها، نیاز به فعالیت در صرافی‌ها دارند. در این مقاله بهترین صرافی‌های ارز دیجیتال برای ایرانیان را معرفی خواهیم کرد.

35
حدود 21 ساعت قبل
مردی بالای آسمان‌خراش شیکاگو
مالک آسمان‌خراش معروف ۹۸ ساله؛ «می‌خواهم تاریخ را احیا کنم»

کسی که ۷٫۵ میلیون دلار برای خرید یک آسمان‌خراش ۹۸ ساله پرداخت می‌کند، بی‌شک برنامه‌های بزرگی برای آن دارد.

25
2 روز قبل
طرح هوش مصنوعی از فرایند غنی سازی اورانیوم
قدرتمند‌ترین فلز جهان؛ اورانیوم چطور غنی‌سازی می‌شود؟

وابستگی عمیق اورانیوم به درصد غنا، این عنصر خاکستری را به یکی از استراتژیک‌ترین و مناقشه‌برانگیزترین منابع جهان تبدیل کرده است.

76
1 روز قبل
تبلیغات
DN-DNShatel

نظرات

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات