حمله ۱۰۰ هزار سوالی: تلاش برای سرقت مغز هوش مصنوعی گوگل

کپی‌برداری از محصولات موفق همواره مرسوم بوده است، اما چت‌بات‌های هوش مصنوعی شرایط متفاوتی دارند؛ به‌گونه‌ای که رقبا نمی‌توانند ساختار داخلی آن‌ها را بررسی کنند و تنها از طریق پرسش‌های مکرر تلاش می‌کنند نحوه‌ی عملکردشان را تحلیل کنند.

براساس اعلام گوگل، یک کمپین با ارسال بیش‌از ۱۰۰ هزار سوال به هوش مصنوعی جمنای قصد داشت تا اطلاعات آن را در مقیاسی بسیار بزرگ استخراج و شبیه‌سازی کند. گوگل می‌گوید حملات موسوم به «تقطیر» با طرح پرسش‌های مکرر، مدل‌های هوش مصنوعی را مورد مطالعه قرار می‌دهند و از پاسخ‌هایشان برای آموزش مدل‌های رقیب استفاده می‌کنند.

گوگل تأکید کرد که حملات تقطیری نقض آشکار شرایط خدمات و سرقت مالکیت فکری محسوب می‌شوند، حتی اگر مهاجمان به‌صورت قانونی به API دسترسی داشته باشند. حمله‌ی ۱۰۰ هزار سوالی به‌صورت مشخص روی توانایی‌های استدلالی جمنای متمرکز بود. سیستم‌های گوگل فعالیت مهاجمان را به‌صورت بلادرنگ شناسایی و اقدامات حفاظتی برای جلوگیری از افشای جزئیات داخلی مدل اعمال کردند.

گوگل نام مهاجمان را ذکر نکرد، اما گفت اکثر تلاش‌های اینچنینی از سوی شرکت‌های خصوصی و محققانی صورت می‌گیرند که به‌دنبال مزیت‌های رقابتی برای توسعه‌ی مدل‌هایشان هستند.