روایت دمیس هاسابیس از آینده؛ آیا برای هوش مصنوعی عمومی آماده‌ایم؟

بیایید برای چند لحظه از نسخه‌های جدید مدل‌های هوش مصنوعی بگذریم و به این واقعیت فکر کنیم که ما، انسان‌هایی که روزگاری با ساییدن سنگ‌ها به هم، آتش را کشف کردیم، حالا فرمولی یافته‌ایم تا به ماسه و سیلیکون قدرت تفکر بدهیم. چقدر احتمال دارد این نیروی جدید، مسیر تکامل‌مان را برای همیشه تغییر دهد؟

باوجود تمامی نظریه‌های متناقضی که پیرامون هوش مصنوعی جریان دارد؛ از شیفتگانی که آن را ناجی بشریت می‌دانند تا وحشت‌زدگانی که منتظر پایان دنیا نشسته‌اند، به‌راحتی نمی‌توانیم نگاه شفاف و واقع‌بینانه‌ای به صحنه‌ای داشته باشیم که اکنون در مرکزش قرار داریم؛ اما شاید ایده‌های کسی که در بالابردن خشت‌به‌خشت این بنای عجیب نقش دارد، تصویر بهتری از آنچه را که رخ می‌دهد، در ذهنمان ترسیم کند.

دمیس هاسابیس، مدیرعامل دیپ‌مایند گوگل در یادداشت اخیر خود تلاش می‌کند چارچوبی عمل‌گرایانه برای یکی‌از بزرگ‌ترین گذارهای تاریخ بشر، یعنی عبور از عصر ابزارهای ساده به دوران عامل‌های هوشمند و خودمختار ارائه دهد تا نه نوآوری فدای ترس‌های فلج‌کننده شود، نه آینده و امنیت ما به‌ دست رقابت‌های تجاری بیفتد.

شما فکر می‌کنید حالا که توانسته‌ایم به قطعات بی‌جان کامپیوتری قدرت تفکر ببخشیم، چگونه می‌توانیم برای این معجزه، خرد جمعی بتراشیم؟ وقتی در آستانه‌ی خلق سیستمی هستیم که می‌تواند هم‌تراز با مغز انسان یا حتی فراتر از آن عمل کند، چه تضمینی وجود دارد که مخلوق جدید از کنترل خارج نشود؟

در یکی از تعیین‌کننده‌ترین دوره‌های تاریخ انسان زندگی می‌کنیم. احتمالاً AGI یا هوش مصنوعی عمومی که می‌تواند تمام توانمندی‌های شناختی مغز انسان را بازآفرینی کند؛ تنها چند سال کوتاه با ما فاصله دارد.

وقتی در دهه‌های آینده به عقب نگاه کنیم، می‌بینیم که امروز در دامنه‌های کوهپایه‌ی تکینِگی ایستاده بودیم؛ نقطه‌ی بی‌بازگشتی که هوش مصنوعی از هوش انسانی پیشی می‌گیرد و سپیده‌دم عصر جدیدی برای بشریت آغاز می‌شود.

هوش مصنوعی عمومی را نمی‌توان با دستاوردهای معمول تکنولوژی، حتی موارد بزرگی مثل اینترنت یا تلفن همراه مقایسه کرد؛ این جهش بیشتر به کشف الکتریسیته یا مهار آتش شباهت دارد. اگر کمی در موضوع عمیق شوید، درمی‌یابید که راهی یافته‌ایم تا به ماسه، توانایی فکرکردن بدهیم، چیزی شبیه معجزه‌ای تمام‌عیار. (اشاره‌ای ظریف به تراشه‌های سیلیکونی که از ماسه ساخته می‌شوند و حالا مغز ما را شبیه‌سازی می‌کنند.)

ابعاد و عمق تأثیرگذاری این فناوری بی‌سابقه خواهد بود؛ شاید ۱۰برابر انقلاب صنعتی، آن هم با سرعتی ۱۰برابر. هوش مصنوعی به ما کمک خواهد کرد تا بزرگ‌ترین چالش‌های جامعه‌ی امروز را حل کنیم؛ از سرعت‌بخشی به کشف داروهای جدید گرفته تا توسعه‌ی منابع انرژی پاک و خلق مواد پیشرفته‌ی نوین.

حتی شاید به نقطه‌ای برسیم که دیگر کمبود منابع، محدودیتی برای پیشرفت انسان ایجاد نکند و وارد عصر بی‌نظیری از فراوانی شویم.»

همین حالا هم مزایای ملموس و کاربردی هوش مصنوعی را در جهان اطرافمان می‌بینیم؛ اما برای تحقق کامل این وعده‌ی بزرگ، باید دوره‌ی حساس گذار را با تأمل و دقتِ فراوان سپری کنیم. هرچه به هوش مصنوعی عمومی نزدیک‌تر می‌شویم، اقدامات فوری برای مهار خطرات احتمالی آن هم اهمیت و ضرورت بیشتری پیدا می‌کند.

پیش‌ازاین شاهد چالش‌هایی بوده‌ایم که مدل‌های پیشرو در حوزه‌ی امنیت سایبری ایجاد می‌کنند. با افزایش توانمندی‌ چنین سیستم‌هایی، شاید به‌زودی تهدیدهای دیگری مانند سوءاستفاده‌های بیولوژیکی یا هسته‌ای نیز نمایان شوند.

در افق پیش‌رو به تدابیر حفاظتی سختی نیاز داریم تا بتوانیم کنترل سیستم‌هایی را حفظ کنیم که به‌طور فزاینده‌ای عاملیت پیدا می‌کنند. سیستم‌هایی که شخصاً تصمیم می‌گیرند و اقدام می‌کنند؛ خودشان کدهای خود را ارتقا می‌دهند و هوشمندتر می‌شوند.

من همیشه به قدرت خلاقیت و نبوغ انسان برای حل هر مسئله‌ای ایمان داشته‌ام. مطمئنم که با هم‌افزایی جمعی می‌توانیم چالش خطرات فنی هوش مصنوعی را مهار کنیم؛ اما این امر تنها زمانی ممکن می‌شود که به خودمان فرصت و فضای کافی بدهیم و گام حیاتی بعدی را درست برداریم.

متأسفانه در حال حاضر، ما به‌عنوان یک جامعه‌ی علمی و فراتر از آن به‌عنوان کل بدنه‌ی اجتماع، چنین فرصتی به خودمان نمی‌دهیم.»

درحال‌حاضر درگیر رقابت‌های تجاری و ژئوپلیتیک فوق‌العاده فشرده و چندلایه‌ای شده‌ایم. هرچند پویایی‌های رقابتی به رشد سریع منجر می‌شود و شتاب بیشتری به دستاوردهای شگفت‌انگیز می‌بخشد؛ اما پیشرفت‌های هوش مصنوعی، سریع‌تر از درک ما از این فناوری اتفاق می‌افتند.

خوش‌بینی محتاطانه به سیاست‌گذاری‌های عمومی نیاز دارد؛ سیاست‌هایی که نوآوری را ترویج دهند و درعین‌حال انگیزه‌های لازم برای مسئولیت‌پذیری و امنیت را به وجود آورند، همکاری‌های بین‌المللی را در مسائل کلیدی ایمنی تقویت کرده و استقرار هوش مصنوعی را در مسیر منافع عمومی هدایت کنند.

هاسابیس در ادامه تأکید می‌کند که سرعت سرسام‌آور پیشرفت هوش مصنوعی به رویکردی نوین، پویا، انعطاف‌پذیر و سخت‌گیرانه برای سنجش توانایی مدل‌های پیشرو نیاز دارد. به‌زعم او ایالات متحده به‌دلیل جایگاه اقتصادی و فنی‌اش، باید قدم اول را بردارد و نهاد جدیدی را برای استانداردگذاری تأسیس کند.

نهاد استانداردسازی می‌تواند نهادی شبیه سازمان تنظیم مقررات مالی باشد که با نظارت فدرال و مشارکت بخش عمومی-خصوصی عمل می‌کند. هیئت‌مدیره‌ی این نهاد هم باید از متخصصان برجسته و مستقل فنی و نمایندگانی از جامعه‌ی متن‌باز تشکیل شود.

نهاد نظارتی وظیفه دارد پروتکل‌های ارزیابی را طراحی کند و با همکاری نهادهای فدرال و آزمایشگاه‌های ملی ایالات متحده تست‌های امنیتی را انجام دهد؛ بدین‌ترتیب، مدل‌ها تنها زمانی در دسته‌ی مدل‌های مرزی و رده‌اول قرار می‌گیرند که امتیازات‌شان در مجموعه‌ای از بنچمارک‌ها، از حدنصاب‌های مشخص فراتر برود؛ ضمن اینکه سازمان مرتباً آزمون‌ها را به‌روزرسانی می‌کند تا از سرعت رشد هوش مصنوعی عقب نمانند.

شرکت‌هایی که مالک مدل‌های پیشرفته هستند، به‌عنوان آزمایشگاه‌های پیشرو معرفی می‌شوند و باید تشویق‌شان کرد که طبق بهترین الگوها پیش بروند و مجموعه‌ی اقدامات زیر را انجام دهند:

• انتشار شناسنامه‌ی فنی مدل‌ها با جزئیات کامل
•  حفظ امنیت سایبری شدید درون‌سازمانی
•  تأیید صلاحیت و غربالگری دقیق پرسنل کلیدی
•  اختصاص منابع مالی کافی برای پژوهش‌های ایمنی و امنیتی

در فاز نخست، آزمایشگاه‌های پیشرو به‌طور داوطلبانه مدل‌های خود را ۳۰روز قبل از عرضه‌ی عمومی برای ارزیابی در اختیار نهاد قرار می‌دهند. پس از اینکه اثربخشی و کارایی پروتکل‌های ارزیابی تأیید شد، فرایند ۳۰روزه، الزامی و قانونی خواهد شد تا برترین مدل‌ها ابتدا فیلترهای ارزیابی را بگذرانند بعد در دسترس عموم قرار بگیرند.

به‌علاوه آزمایشگاه‌های پیشرو در زمینه‌ی شناسایی و برطرف‌کردن آسیب‌پذیری‌های بحرانی پس‌از انتشار مدل‌ها نیز با سازمان ناظر همکاری خواهند کرد.

هوش مصنوعی عامل‌محور نیز به ارزیابی‌های اختصاصی دیگری نیاز دارد، مثلاً باید قدرت مدل‌ها در دورزدن ابزارهای ایمنی و رفتارهای فریبکارانه را بسنجند و مشخص کنند که آیا مدل برای رسیدن به اهداف خود، به ناظران یا کاربران دروغ می‌گوید؟

در مرحله‌ی بعد به پیاده‌سازی راه‌حل‌های استاندارد می‌رسیم؛ مانند درج واترمارک دیجیتال روی تصاویر تولیدشده توسط هوش مصنوعی و تولید توکن‌های خروجی قابل‌فهم برای انسان، تا بتوانیم روند استدلال و تصمیم‌گیری مدل را به‌وضوح درک کنیم.

سازمان باید ارزیابی‌ها را مرتباً به‌روزرسانی کند، معیارهای قدیمی یا اشباع‌شده را کنار بگذارد و بنچمارک‌های جدیدی را جایگزینشان کند. در مراحل اول، خود آزمایشگاه‌ها به توسعه‌ی فازهای ارزیابی کمک می‌کنند؛ اما درنهایت نهاد استانداردسازی باید به صلاحیت فنی مستقلی برسد و آزمون‌های اختصاصی و مخفی خود را بدون دخالت شرکت‌ها طراحی کند تا مانع از بیش‌برازش مدل‌ها شود.

یادآوری: بیش‌برازش یعنی مدل به‌جای یادگیری عمیق، داده‌های آموزشی را حفظ می‌کند. در این صورت شاید در آزمون‌ها امتیاز بالایی بگیرد؛ اما هنگام مواجهه با داده‌های جدید و ناشناخته، عملکرد و دقت ضعیفی نشان می‌دهد.

رویکردی که هاسابیس پیشنهاد می‌دهد، از نظر فنی کاملاً متمرکز به‌نظر می‌رسد و درعین‌حال مانع از نوآوری نمی‌شود و رفتارهای مسئولانه را تشویق می‌کند. این ساختار به‌گونه‌ای طراحی شده است که پابه‌پای سرعتِ پیشرفت فناوری جلو برود و خودش را با بزرگ‌ترین خطراتی که شناسایی می‌شوند، وفق دهد.

شرکت‌هایی که به‌عنوان آزمایشگاه پیشرو شناخته می‌شوند، اعتبار بالایی به‌دست می‌آورند. هر مجموعه‌ای هم که بتواند مدل‌هایی مطابق با استانداردهای تعیین‌شده توسعه دهد، فرصت دستیابی به چنین عنوانی را خواهد داشت.

چارچوب فوق، صرف‌نظر از فاکتورهایی مثل کشور مبدأ یا باز و بسته‌بودن مدل‌ها اعمال می‌شود؛ اما می‌توان شرکت‌های نوپا، استارتاپ‌ها و مراکز دانشگاهی را که مدل‌هایی ضعیف‌تر و رده‌پایین‌تر می‌سازند؛ از فرایندهای پیچیده و سخت‌گیرانه معاف کرد.

ازآنجاکه هوش مصنوعی کل سیاره‌ی ما را تحت‌تأثیر قرار می‌دهد؛ چارچوب استاندارد در حالت ایده‌آل، می‌تواند جامعه‌ی بین‌المللی را ترغیب کند تا در مورد روش مدیریت خطرات جدی به اجماع برسند. درعین‌حال به ما اطمینان می‌دهد که همه‌ی مردم جهان به فرصت‌های بی‌نظیر هوش مصنوعی دسترسی دارند و از مزایای آن بهره‌مند می‌شوند.

هاسابیس می‌گوید هوش مصنوعی عمومی پتانسیلش را دارد که به غایی‌ترین ابزار بشر برای پیشرفت علم و پزشکی تبدیل شود و رشد اقتصادی خیره‌کننده‌ای رقم بزند؛ اما برای رسیدن به این هدف، باید زیرساخت‌های فنی را به‌درستی بنا کنیم؛ حول یک چارچوب جهانی مشترک با هم هماهنگ شویم، از دقیق‌ترین روش‌های علمی بهره بگیریم و برترین ذهن‌های جهان را برای حل چالش‌های پیش رو گرد هم آوریم.

وقتی چالش‌های فنی سخت را پشت می‌گذاریم، تازه با پرسش‌های اقتصادی و فلسفی بسیار پیچیده‌تری روبه‌رو می‌شویم؛ برای مثال در دنیای پسا-کمیابی، به چه الگوهای اقتصادی جدیدی نیاز داریم تا همه‌ی انسان‌ها در آن شکوفا شوند؟ وقتی ماشین‌ها کار ما را بهتر از خودمان انجام می‌دهند، با چه ارزش‌هایی می‌خواهیم زندگی کنیم؟ معنا و هدف زندگی در چنین دنیایی چه خواهد بود؟ ماهیت و شرایط زندگی انسان چگونه تغییر می‌کند؟

ساتیا نادلا و پرسش بزرگ عصر هوش مصنوعی؛ چه کسی مالک دانش شرکت‌ها می‌ماند؟

در عصر هوش مصنوعی، ارزش واقعی شرکت‌ها نه فقط در استفاده از مدل‌های بزرگ، بلکه در حفظ دانش، تجربه و چرخه‌ی یادگیری خودشان ساخته می‌شود.

مهرداد عیسی‌لو

مطالعه '6

هاسابیس می‌نویسد: «مشخصاً نمی‌توانیم و نباید حل این مسائل را تنها به دست تکنولوژیست‌ها بسپاریم. تک‌تک بخش‌های جامعه باید کنار هم قرار بگیرند و مشارکت کنند تا با هم فصل جدید تاریخ را تعریف کنیم.»

امروز هیجان و نگرانی زیادی در مورد هوش مصنوعی وجود دارد و هر دو احساس نیز کاملاً طبیعی‌اند؛ ولی آینده هنوز نوشته نشده است و ما در این برهه‌ی زمانی، پیش‌از ظهور هوش مصنوعی جامع، فرصتی تکرارنشدنی داریم تا مسیر فناوری را در جهت منافع کل بشریت هدایت کنیم.

آنچه امروز به‌صورت جمعی انجام می‌دهیم، نحوه‌ی شکل‌گیری مرحله‌ی بعدی تمدن را رقم می‌زند. اگر AGI را مسئولانه و با ایمنی و خرد به جهانمان هدایت کنیم، می‌توانیم به عصر طلایی جدیدی از اکتشافات و پیشرفت‌های علمی قدم بگذاریم و فردایی روشن و سرشار از شکوفایی برای انسان بسازیم.