هوش مصنوعی با توانایی هک؛ سم آلتمن جنجالیترین نسخه ChatGPT را به کاخ سفید میبرد
سم آلتمن، مدیرعامل OpenAI، هفتهی جاری راهی واشنگتن میشود تا پیشنمایشی از قدرتمندترین مدل هوش مصنوعی شرکتش را ارائه دهد. او در این سفر تلاش خواهد کرد تا تأییدیهی سریع مدلی را دریافت کند که در آزمایشهای داخلی موفق به هک غیرمنتظرهی یک شرکت واقعی شده بود.
بر اساس گزارش اکسیوس، جنجالیترین نسخهی ChatGPT توانایی حل یک مسئلهی ریاضی ۸۰ ساله را دارد و میتواند بدون دریافت دستور مستقیم، به سیستم شرکتهای دیگر نفوذ کند. آلتمن قصد دارد نشان دهد که چگونه این فناوری کارایی کسبوکارهای آمریکایی را افزایش میدهد.
مدل داخلی OpenAI موفق شده است مسئلهی فاصلهی واحد اردوش (Erdős unit distance problem) را به عنوان نخستین مسئلهی ریاضی برجسته و حلنشده، بهطور مستقل حل کند؛ دستاوردی که ریاضیدانان برجسته نیز آن را تأیید کردهاند. این فناوری به دولتها و شرکتها اجازه میدهد تا گروههایی از عاملهای هوشمند را برای انجام کارهای پیچیده به کار بگیرند. در حال حاضر بیش از ۸۵ درصد از فعالیتهای بخش حقوقی، مالی و جذب نیروی انسانی در OpenAI توسط این عاملها انجام میشود.
گزارشهای داخلی نشان میدهد این مدل حتی در صورت مواجهه با موانع ایمنی متوقف نمیشود و بارها سیستمهای نظارتی را دور زده است. این موضوع توسعهدهندگان را مجبور کرد تا فعالیت مدل را متوقف و سیستمهای نظارتی را بازسازی کنند. این ابزار در یکی از آزمایشها موفق شد پلتفرم Hugging Face را هک کند.
دولت دونالد ترامپ بهزودی چارچوب داوطلبانهای را برای پیشتأیید مدلهای هوش مصنوعی ارائه میدهد. این اقدام در شرایطی صورت میگیرد که ابزارهای چینی با هزینهی کمتر و کارایی بیشتر در حال توسعه هستند. آلتمن در این دیدارها مفهوم جدید «دانش به ازای هر دلار» را برای سنجش ارزش اقتصادی هوش مصنوعی مطرح خواهد کرد.
