D1-lg

بازیکنی خلاق با پرت‌کردن حواس هوش مصنوعی، آن را در بازی Go شکست داد

دوشنبه 1 اسفند 1401 - 17:00
مطالعه 1 دقیقه
بازی Go
یکی از بازیکنان بازی فکری Go، با سوءاستفاده از نقص سیستم هوش مصنوعی و پرت‌کردن حواس KataGO، موفق شد آن را شکست دهد.
تبلیغات
D4-mcid4

فایننشال‌تایمز گزارش داده است کلین پلرین، یکی از بازیکنان بازی Go، با سوءاستفاده از ضعف شناسایی‌شده در سیستم هوش مصنوعی KataGo، موفق شد آن را شکست دهد. از سال ۲۰۱۹ که AlphaGo حتی قدرتمندترین انسان‌ها را در بازی Go شکست داد، این اولین‌بار است که شاهد پیروزی انسان بر هوش مصنوعی هستیم. این موضوع نشان می‌دهد حتی پیشرفته‌ترین سیستم‌های مبتنی‌بر هوش مصنوعی نیز می‌توانند همچنان ضعف‌هایی داشته باشند.

پیروزی پلرین با کمک شرکت تحقیقاتی FAR AI محقق شد. این شرکت برنامه‌ای را برای بررسی ضعف‌های KataGo توسعه داد و پس‌ از انجام‌دادن بیش‌ از یک‌میلیون بازی شبیه‌سازی‌شده موفق شد باگی را کشف کند که حتی بازیکنان تازه‌کار می‌توانند از آن بهره ببرند. پلرین می‌گوید:

استفاده از برنامه‌ی FAR AI برای بهرده‌برداری از نقص سیستم هوش مصنوعی کار خیلی سختی نیست.
- کلین پلرین

پلرین درواقع از روشی مشابه با راهکار استفاده‌شده برای شکست هوش مصنوعی Leela Zero بهره گرفت. او با اشاره به آسان‌بودن تشخیص استراتژی شکست‌دادن هوش مصنوعی، توضیحاتی درباره‌ی آن ارائه داد:

هدف این است حلقه‌ی بزرگی از سنگ‌ها ایجاد کنید تا گروه حریف محاصره شوند و سپس با انجام حرکات در بخش‌های دیگر صفحه، حواس کامپیوتر را پرت کنید. حتی زمانی‌که گروه تقریباً در حالت محاصره باشد، کامپیوتر متوجه استراتژی کاربر نخواهد شد.
- پلرین

همان‌طور‌که انگجت اشاره می‌کند، نقص موجود در KataGo نشان می‌دهد سیستم‌های هوش مصنوعی درحال‌حاضر واقعاً نمی‌توانند فراتر از آموزش‌های خود عمل کنند؛ بنابراین، اغلب کارهایی که انجام می‌دهند، برای انسان‌ها عجیب و غیر‌منتظره و گاهی احمقانه به‌نظر می‌رسند.

ما مواردی مشابهی را در بینگ جدید مایکروسافت مشاهده کردیم. به‌عنوان مثال، این چت‌بات بارها اطلاعات را اشتباه نمایش داد یا گاهی برخی کاربران را تهدید کرد. این اشکالات احتمالاً به‌دلیل مدل‌هایی است که هوش مصنوعی مایکروسافت براساس آن‌ها آموزش دیده است.

لایت وکتور، توسعه‌دهنده‌ی KataGo، قطعاً از مشکلی که بازیکنان در چند ماه گذشته از آن سوءاستفاده کرده‌اند، آگاه است. وکتور با انتشار پستی در گیت‌هاب اعلام کرد در حال کار روی اصلاحیه‌ای است که باگ مذکور را از سیستم هوش مصنوعی آن حذف می‌کند.

مقاله رو دوست داشتی؟
نظرت چیه؟

داغ‌ترین مطالب روز
نمای جلو خودرو پارس نوا P90
این ماشین پارس نوا است؛ جایگزین شایسته تندر ۹۰

پارس نوا P90 سدان جدید پارس‌خودرو است که با ظاهر و امکاناتی جدید، جانشین تندر ۹۰ می‌شود.

99
1 روز قبل
زوبین متولد شد
زوبین متولد شد؛ تولد یک تجربه‌ تازه از دل زومیت

زومیت عضو جدید خانواده خود را با نام زوبین معرفی کرد؛ ابزار مقایسه مشخصات و قیمت محصولات الکترونیکی که پیش‌‌تر با نام بخش محصولات زومیت شناخته می‌شد.

249
حدود 21 ساعت قبل
هواپیمای بوئینگ در فرودگاه با همراه مسافران
هواپیمای مسافربری با یک مانور سنگین از برخورد با بمب‌افکن B‑52 گریخت

مانوری سریع و حیاتی در ارتفاع بالا، پرواز عادی را به تجربه‌ای نفس‌گیر تبدیل کرد.

66
2 روز قبل
شارژ ایرانسل
چگونه شارژ ایرانسل بخریم؟ انواع روش‌ های خرید شارژ

راه‌های مختلفی برای خرید شارژ ایرانسل وجود دارد که در این مطلب به تمام آن‌ها اشاره می‌کنیم.

0
حدود 3 ساعت قبل
برایان جانسون / Bryan Johnson
جنون جاودانگی؛ مردی که نمی‌خواست هرگز بمیرد، ابزار نامیرایی‌اش را می‌فروشد

برایان جانسون با صرف هزینه‌ هنگفت برای درمان و اسکن‌های پیشرفته، تلاش کرد به جاودانگی برسد، اما پروژه جاه‌طلبانه‌اش در مرز تعطیلی است.

217
1 روز قبل
لوگوی دیپ‌سیک
هوش مصنوعی دیپ سیک چیست؟ آموزش استفاده از DeepSeek

در این مقاله به معرفی و نحوه‌ی ثبت‌نام و استفاده از چت‌بات‌ هوش مصنوعی چینی دیپ‌سیک می‌پردازیم.

136
حدود 19 ساعت قبل
نمای سه‌چهارم جلو تویوتا کرولا ۱۹۹۳
ماشینی ژاپنی که ۲ میلیون کیلومتر حرکت کرد؛ اما همچنان بدون مشکل کار می‌کند

خودروهای ژاپنی معمولاً به دوام بالا مشهورند؛ اما عبور از مرز دو میلیون کیلومتر با تویوتا کرولا واژه‌ی «دوام» را بازتعریف می‌کند.

76
حدود 18 ساعت قبل
تبلیغات
DN-DNShatel

نظرات

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات