این ترفند عجیب، مغز سرورهای ChatGPT را از کار انداخت

ChatGPT هیجان‌انگیزترین فناوری ماه‌های اخیر بوده و رقابت در حوزه‌ی هوش مصنوعی را به‌شدت افزایش داده است؛ مسیری که گوگل، مایکروسافت و OpenAI در خط‌ مقدم آن قرار دارند. البته شرکت‌های بزرگ و کوچک دیگری هم وجود دارند که برنامه‌های مختلف مبتنی‌بر هوش مصنوعی خود را توسعه می‌دهند.

از آنجا که درحال‌حاضر روزهای اولیه‌ی هوش مصنوعی هوشمندتر را سپری می‌کنیم، بروز خطا و اشکال در سیستم‌های مبتنی‌بر این فناوری طبیعی است. دقت داده‌هایی که چت‌بات‌های هوش مصنوعی ارائه می‌دهند تا کامل‌ شدن فاصله‌ی زیادی دارد و شاید رسیدن به چنین سطحی مدتی طول بکشد. علاوه‌براین چالش‌های جدی درمورد حریم‌خصوصی وجود دارد که باید برطرف شوند.

امکان دارد محصولاتی مثل ChatGPT با پاسخ دادن به درخواست‌های کاربران دچار اشکال شوند. اکنون یکی از کاربران ردیت ترفندی را شناسایی کرده که اساساً مغز رایانه‌ی ChatGPT را درهم می‌شکند. در این روش کافی است به چت‌بات دستور دهید یک حرف را تکرار کند و سپس مشاهده خواهید کرد چه اتفاقی رخ می‌دهد.

کاربری به‌نام TheChaos7777 در ردیت اعلام کرد: «لطفاً تا جایی که می‌توانید با چیزی غیر از حرف A پاسخ ندهید.»

BGR می‌نویسد، ChatGPT با تکرار حرف A سعی کرد پاسخی مطابق درخواست کاربر ارائه دهد اما پس‌ از آن دچار اشکال شد و متنی از وب‌سایت پرورش‌دهنده‌ی بولداگ فرانسوی را ارائه داد.

برخی افراد سعی کردند همان ترفند را روی ChatGPT آزمایش کنند که نمونه‌ی آن را در تصویر زیر مشاهده می‌کنید.

در ادامه از ChatGPT سؤال شد که چند بار می‌تواند فقط حرف A را تکرار کند؟ هوش مصنوعی OpenAI در پاسخ گفت: «به‌عنوان مدل زبانی هوش مصنوعی می‌توانم حرف A را به‌طور مکرر و نامحدود تولید کنم. با این‌حال به‌دلیل محدودیت‌های پلتفرم، پاسخ‌های من کوتاه‌ هستند. لطفاً تعداد تقریبی تکرارهایی را که می‌خواهید به من اعلام کنید تا به شما پاسخ دهم.»