سم آلتمن مدیرعامل OpenAI درکنار تصویر ربات

تمام زوایای مبهم کودتای OpenAI؛ ماجرای شوک به دنیای تکنولوژی چه بود؟

چهارشنبه ۱ آذر ۱۴۰۲ - ۱۵:۱۵
مطالعه 15 دقیقه
با اخراج ناگهانی و مبهم سم آلتمن از OpenAI، شرکت خالق ChatGPT دچار بحران شد و دنیای تکنولوژی در شوک بزرگی فرو رفت. ماجرا از چه قرار بود؟
تبلیغات

هئیت‌مدیره‌ی OpenAI، خالق ChatGPT، از این نگران بود که شرکت در حال ساخت معادل تکنولوژی‌محور بمب اتم بود و مدیرعاملش سم آلتمن (Sam Altman) آنقدر داشت در این مسیر سریع حرکت می‌کرد که ممکن بود انسان‌ها را به‌زودی با یک فاجعه‌ی جهانی رو‌به‌رو کند؛ فاجعه‌ای در حدواندازه‌ی نابودی نسل بشر به دست هوش مصنوعی، شاید به‌همان شکلی که رابرت اوپنهایمر با اختراع بمب اتم، دنیا را روی لبه‌ی نابودی قرار داد.

برای همین هم اخراجش کردند. تصمیمی که به‌نظر معقولانه می‌آید، اما مدلی که آلتمن اخراج شد اصلا معقولانه نبود؛ ناگهانی، پر از ابهام و بدون اطلاع شرکا و سرمایه‌گذاران بزرگ شرکت و به‌دنبال آن، شوک بزرگی به دنیای تکنولوژی. شاید آسیبی که اخراج آلتمن به OpenAI وارد کرد از اخراج نشدنش بیشتر بود.

اما داستان دقیقا از چه قرار است؟ چرا شرکت مرموز و ۹۰ میلیارد دلاری OpenAI که ماموریت داشت زودتر از هر شرکت دیگری به هوش مصنوعی انسان‌گونه (AGI) برسد، تصمیم گرفت با چنین شتاب و بی‌برنامگی، مشهورترین چهره‌ی انقلاب هوش مصنوعی را اخراج کند؟ آیا عمر ChatGPT به سر رسیده یا چیزی نمانده آلتمن و تیمش به AGI برسند؟ سوالاتی که سعی می‌کنم در این مقاله دست‌کم به برخی از آن‌ها پاسخ دهم.

کپی لینک

سم آلتمن اخراج شد

روز جمعه، ۱۷ نوامبر و در آستانه‌ی یک سالگی ChatGPT، چهار نفر از اعضای هیئت‌مدیره‌ی OpenAI، بدون هیچ مقدمه و توضیحی سم‌ آلتمن، مدیر عامل این شرکت را اخراج کردند و دنیای تکنولوژی را در شوک بزرگی فرو بردند.

این چهار نفر عبارت بودند از ایلیا سوتسکیور (Ilya Sutskever)، دانشمند ارشد اوپن‌ای‌آی، آدام دی‌آنجلو (Adam D’Angelo)، مدیرعامل Quora، تاشا مک‌کالی (Tasha McCauley)، کارآفرین حوزه‌ی تکنولوژی و هلن تونر (Helen Toner)، مدیر استراتژی مرکز امنیت و تکنولوژی نوظهور.

اعضای هیئت‌مدیره نه‌تنها با این تصمیم ناگهانی از پشت به آلتمن خنجر زدند، بلکه به سرمایه‌گذاران‌شان هم پشت کردند. مهم‌ترین مسئولیت هیئت‌مدیره‌ی هر شرکت در قبال سهام‌دارانش است و هر تصمیمی که گرفته می‌شود، باید منافع آن‌ها را در نظر بگیرد. با‌این‌حال، بزرگ‌ترین سهام‌دار OpenAI، یعنی مایکروسافت که به آلتمن و تیمش ‍‍۱۳ میلیارد دلار کمک کرد تا دستی به روی بینگ، آفیس، ویندوز و آژور بکشند و ردموند‌ی‌ها را در رقابت هوش مصنوعی، فرسنگ‌ها از رقبایی چون گوگل، آمازون و IBM جلو بیندازند، فقط چند دقیقه پیش از بیانیه‌ی غیرمنتظره‌ی OpenAI از اخراج آلتمن باخبر شد و ارزش سهامش حدود دو درصد کاهش پیدا کرد.

هیئت‌مدیره از پشت به آلتمن خنجر زد

حتی کارمندان OpenAI هم روحشان از این تصمیم خبر نداشت؛ ازجمله گرگ براکمن (Greg Brockman)، هم‌بنیان‌گذار و رییس شرکت که در توییتی نوشت فقط چند لحظه پیش از اعلام خبر اخراج آلتمن در جریان قرار گرفته است؛ آن هم نه به‌صورت حضوری، بلکه به‌صورت آنلاین و از طریق گوگل میت!

اعضای اصلی OpenAI از راست:  گرگ براکمن، میرا موراتی، سم آلتمن، ایلیا سوتسکور
هسته‌ی اصلی OpenAI از راست: گرگ براکمن، میرا موراتی، سم آلتمن و ایلیا سوتسکیور

براکمن مراحل اخراج سم آلتمن را در توییت خود اینطور شرح داد:

«دیشب ایلیا به سم پیام داد که ظهر جمعه بیا با هم صحبت کنیم. سم به جلسه‌ای در گوگل میت پیوست که تمام اعضای هیئت‌مدیره به جز من در آن حضور داشتند. ایلیا به سم گفت که اخراج شده و این خبر خیلی زود عمومی می‌شود.

ساعت ۱۲:۱۹ شب، ایلیا در پیامی به من گفت که باید سریع با من تماس بگیرد. ساعت ۱۲:۳۰ لینکی در گوگل میت برایم فرستاد. به من گفت که من از هیئت‌مدیره برکنار شده‌ام (اما سمت خود را حفظ خواهم کرد) و اینکه خودش اخراج شده است. همین حول و حوش، OpenAI خبر اخراج سم را منتشر کرد.

تا جایی که می‌دانیم، تیم مدیریت کمی بعد از این ماجرا باخبر شد، البته به‌جز میرا (موراتی؛ مدیر ارشد فناوری که به‌طور موقت جای آلتمن را گرفت) که از شب قبل در جریان قرار گرفته بود.»

در چشم‌برهم‌زنی، OpenAI دچار بحران شد

در چشم‌برهم‌زنی، OpenAI دچار بحران شد. بلافاصله پس از اخراج آلتمن، براکمن هم به نشانه‌ی حمایت از شرکت خارج شد و سه نفر از اعضای مهم شرکت ازجمله مدیر تحقیقات و رئیس تیم تحلیل ریسک‌های هوش مصنوعی نیز استعفا دادند. از آن سو، خبر اینکه آلتمن و وفادارانش قصد داشتند شرکت هوش مصنوعی خودشان را راه‌اندازی کنند، تمام دستاوردهای OpenAI را که در چند سال گذشته با چنگ‌ودندان به دست آورده بود، با خطر نابودی تهدید کرد.

اوضاع زمانی واقعا از کنترل خارج شد که در نامه‌ای سرگشاده، ۹۵ درصد از کارمندان OpenAI گفتند با رفتن آلتمن، همگی استعفا خواهند داد. در این بین، میرا موراتی (Mira Murati) که جایگزین آلتمن شده بود، در پلتفرم ایکس (توییتر سابق) برای او ایموجی قلب گذاشت و سعی داشت هم سم و هم گرگ را به شرکت برگرداند. از آن سو، هیئت‌مدیره دنبال فرد دیگری بود تا جای موراتی را به‌عنوان مدیرعامل جدید بگیرد و درنهایت به‌طرز باورنکردنی‌ای به اِمت شیر (Emmett Shear)، مدیرعامل سابق توییچ رسیدند؛ کسی که هیچ سررشته‌ای در هوش مصنوعی ندارد و معتقد است AI قرار است دنیا را نابود کند.

میرا موراتی مدیر ارشد فناوری OpenAI
میرا موراتی مدیر ارشد فناوری OpenAI جایگزین موقت آلتمن شد

در این آشفته‌بازار، مایکروسافت به‌ حمایت همه‌جانبه از سم آلتمن برخواست و گفت او و تیمش را زیر پروبال خود می‌گیرد. شاید از همه عجیب‌تر، ابراز پشیمانی ایلیا سوتسکیور بود که در اخراج آلتمن نقش کلیدی بازی کرد. او در ایکس نوشت: «عمیقاً بابت مشارکتم در اقدامات هیئت‌مدیره پشیمانم. هرگز نمی‌خواستم به OpenAI آسیب بزنم.»

سردسته‌ی کودتا از اخراج آلتمن پشیمان شد

و همه‌ی این ماجراها کم‌وبیش داشت در پلتفرم X اتفاق می‌افتاد. طنز قضیه آنجا است که ایلان ماسک با معرفی هوش مصنوعی خودش به‌نام گراک (Grok)، رقیب OpenAI محسوب می‌شود و از داده‌های ایکس برای آموزش این مدل استفاده می‌کند.

درحالی‌که هنوز دلیل اخراج آلتمن در هاله‌ای از ابهام بود، این‌طور به نظر می‌رسید که او کماکان دست بالا را دارد، چراکه تقریبا تمام کارمندان OpenAI به اضافه‌ی مایکروسافت و سرمایه‌گذاران دیگر از او به حمایت از او برخواستند. اوضاع برای OpenAI و شاید حتی آینده‌ی هوش مصنوعی اصلا خوب نبود.

کپی لینک

مایکروسافت وارد می‌شود

وقتی خبر اخراج سم آلتمن اعلام شد، سهام مایکروسافت که تقریبا نیمی از OpenAI را در اختیار دارد و کل کسب‌وکار هوش مصنوعی‌اش به ابزار این شرکت متکی است، حدود دو درصد کاهش پیدا کرد. این لحظه می‌توانست برای مایکروسافت گران تمام شود، اما هوشمندی ساتیا نادلا به داد ردموندی‌ها رسید.

هوشمندی ساتیا نادلا به داد مایکروسافت رسید

مایکروسافت ابتدا سعی کرد به هیئت‌مدیره فشار بیاورد تا آلتمن را به شرکت بازگرداند؛ اما وقتی کمپین فشار راه به‌جایی نبرد، نادلا زمانی‌که اکثر آمریکایی‌ها هنوز خواب بودند و پیش از اینکه بازار بورس آمریکا باز شود، در توییتی نوشت که آلتمن و براکمن را به استخدام مایکروسافت در خواهد آورد.

ساتیا نادلا / Satya Nadella مدیرعامل مایکروسافت در میان جمعیت
ساتیا نادلا، مدیرعامل مایکروسافت برنده‌ی بزرگ بحران OpenAI بود

البته نه در سمت کارمندی؛ نادلا به آلتمن مقام مدیرعاملی داد؛ مقامی که معمولا برای رهبران بخش‌های بزرگ این شرکت کنار گذاشته شده، مثل فیل اسپنسر برای واحد گیمینگ یا تصاحب‌های بزرگی مثل لینکدین و گیت‌هاب. توییت نادلا این پیام را منتقل می‌کرد که مایکروسافت استخدام آلتمن و براکمن را مانند یک تصاحب بزرگ در نظر گرفته و آلتمن قرار است اختیار عمل کامل داشته باشد. صدها کارمند OpenAI هم که تهدید به استعفا کرده بودند، اعلام کردند که حاضرند به بخش هوش مصنوعی مایکروسافت زیر نظر آلتمن بپیوندند.

البته ماجرا آن‌طوری که مایکروسافت دوست داشت، پیش نرفت. آلتمن به شرکتی که خودش تاسیس کرده بود، وفاداری عمیقی داشت و طبیعی بود که بخواهد تمام تلاشش را برای حفظ آن انجام دهد. درحالی‌که OpenAI به‌خاطر تهدید استعفای دسته‌جمعی کارمندان و حمایت به‌موقع مایکروسافت در ورطه‌ی فروپاشی قرار داشت، آلتمن گفت حاضر است به‌شرط تغییر اعضای هیئت‌مدیره که در اخراجش نقش داشتند، به شرکت برگردد.

به‌هرحال، ساتیا نادلا برنده‌ی بزرگ این بازی بود. اخراج آلتمن و انحلال OpenAI می‌توانست مایکروسافت را در حوزه‌ی هوش مصنوعی با بحران بزرگی رو‌به‌رو کند، اما این شرکت نشان داد ماهی‌گیری از آب گل‌آلود را خوب بلد است.

کپی لینک

چرا سم آلتمن اخراج شد؟

پاسخ به این سوال واقعا چالش‌برانگیز است، چون کسی به‌طور دقیق نمی‌داند. خود هیئت‌مدیره در بیانیه‌اش گفت که صادق‌ نبودن با اعضای هیئت‌مدیره، عامل اخراج‌ آلتمن است؛ چون این رفتار باعث شده بود که شرکت در انجام مسئولیت‌هایش ناتوان باشد. همچنین، «هیئت‌مدیره دیگر به توانایی‌ آلتمن برای ادامه‌ی رهبری OpenAI اعتماد ندارد.» از آن‌سو، امت شیر، مدیرعامل جایگزین آلتمن هم گفت دلیل اخراج آلتمن سر دغدغه‌های امنیتی نبود و استدلال هیئت‌مدیره چیز دیگری بود؛ البته توضیحی هم ارائه نداد.

هیئت‌مدیره دیگر به آلتمن اعتماد نداشت؛ اما چرا؟

برد لایت‌کپ (Brad Lightcap)، مدیر اجرایی OpenAI هم در یادداشتی به کارکنان گفت تصمیم هیئت‌مدیره «در پاسخ به تخلفات یا در ارتباط با اقدامات مالی، تجاری، امنیتی یا حریم خصوصی شرکت، گرفته نشده است. اخراج سم به‌خاطر مشکلات در مکالماتش با هیئت‌مدیره بود.»

اما این مشکلات دقیقا چه بودند؟ وقتی خودمان به کل ماجرا دقیق‌تر نگاه می‌کنیم، دو موضوعِ در هم گره‌خورده در اخراج آلتمن خودنمایی می‌کنند؛ اولی، اختلاف نظر ایدئولوژیکی بین سم آلتمن و دیگر اعضای هیئت‌مدیره و دیگری، سازوکار عجیب شرکت OpenAI که نظیر آن در سیلیکون‌ولی تابه‌حال دیده نشده است.

ساختمان OpenAI
ساختمان مرموز OpenAI در سان‌فرانسیسکو

شرکت OpenAI که در سال ۲۰۱۵ تاسیس شد، از نوع ناسودبَر یا همان غیرانتفاعی است با تمرکز روی پروژه‌های تحقیقاتی به نفع بشریت و به ‌همین خاطر، مقاصد تجاری را دنبال نمی‌کند. اما آلتمن، براکمن و سوتسکیور در سال ۲۰۱۹ بخش OpenAI LP را در ساختار بزرگ‌تر شرکت راه‌اندازی کردند که انتفاعی با منافع تجاری است. همین بخش تجاری، شرکت بی‌ارزش OpenAI را درعرض چند سال به شرکت ۹۰ میلیارد دلاری تبدیل کرد و عامل این موفقیت هم کسی نبود جز سم آلتمن.

سازوکار عجیب شرکت OpenAI در سیلیکون‌ولی مرسوم نیست

در آن سوی این موفقیت حالا سرمایه‌گذاران بزرگی مثل مایکروسافت و Thrive Capital قرار داشتند که بی‌صبرانه منتظر بودند OpenAI در مسیر منافع تجاری آن‌ها سریع‌تر حرکت کند تا دچار ضرر مالی نشوند. احتمالا همین باعث شد آلتمن به OpenAI LP فشار بیاورد تا سریع‌تر محصولاتشان را به بازار عرضه کنند.

در فرهنگ «سریع حرکت کن و همه‌چیز را بشکن» سیلیکون‌ولی، این محصولات معمولا در اولین روزهای عرضه، درست کار نمی‌کنند که خب، اگر محصول، شبکه‌ی اجتماعی باشد، مشکلی خاصی ایجاد نمی‌کند. اما وقتی پای تکنولوژی‌ای در میان است که می‌تواند با حرف‌ها و تصاویر به‌شدت واقع‌گرایانه‌اش، افراد را به‌راحتی فریب دهد، داستان فرق می‌کند.

از نظر هیئت‌مدیره، آلتمن داشت پا را از گلیمش فراتر می‌گذاشت

احتمالا همین موضوع هیئت‌مدیره را که اکثر اعضای آن از بخش غیرانتفاعی شرکت هستند، ترساند. کنفرانس توسعه‌دهندگان OpenAI هم که هفته‌ی پیش برای اولین‌بار برگزار شد، فضا را متشنج‌تر کرد. آلتمن در این کنفرانس روی صحنه رفت تا از سرویس‌های هیجان‌انگیزی ازجمله ابزاری برای ساخت نسخه‌های اختصاصی ChatGPT صحبت کند. درضمن، پای صحبت از ساخت تراشه‌های هوش مصنوعی برای رقابت با انویدیا و همکاری با جانی آیو برای جایگزینی گوشی هوشمند با AI به میان آمد. از نظر سوتسکیور و دیگر اعضای هیئت‌مدیره، آلتمن دیگر داشت پا را از گلیم خود فراتر می‌گذاشت.

خیلی مهم است درباره‌ی اختلاف نظر ایدئولوژیکی در OpenAI بیشتر صحبت کنیم. ماموریت اصلی این شرکت دستیابی به AGI زودتر از هر کس دیگری است و کارمندان حتی برای پیش‌بینی‌هایشان شرط‌بندی کرده‌اند. اما در حوزه‌ی هوش مصنوعی، آخرالزمان رباتی و نابودی نسل بشر و مقایسه‌ی AI با بمب اتم دغدغه‌ای بسیار جدی است، به‌طوری که اخیرا اجلاس ایمنی هوش مصنوعی برای اولین‌بار در تاریخ با ۱۵۰ نماینده از سراسر جهان برگزار شد تا توسعه‌ی هوش‌ مصنوعی قانون‌مند شود.

درحالی‌که آلتمن با سرعت مشغول تجاری‌سازی محصولات OpenAI و عرضه‌ی آن‌ها به بازار بود، هیئت‌مدیره و در راس آن‌ها ایلیا سوتسکیور به‌عنوان مغز متفکر کل پروژه از این می‌ترسیدند که توسعه‌ی هوش مصنوعی با این سرعت، نسل بشر را به نابودی بکشاند.

فکر می‌کنم اکنون وقتش رسیده درباره‌ی شخصیت سم آلتمن و ایلیا سوتسکیور و تنش ایدئولوژیکی بین آن‌ها صحبت کنم.

کپی لینک

سم آلتمن و ایلیا سوتسکیور؛ دو روی سکه‌ی انقلاب هوش مصنوعی

اغراق نیست اگر سم آلتمن را سفیر هوش مصنوعی بنامیم، حتی با اینکه در زمینه‌ی یادگیری عمیق دانش زیادی ندارد و تحصیلاتش در دانشگاه استنفورد را نیمه‌کاره رها کرد. اولین استارتاپ او Loopt که سرویس رسانه‌ی اجتماعی مبتنی‌بر موقعیت مکانی بود، به جایی نرسید؛ اما همین کافی بود تا توجه پال گرم (Paul Graham)، بنیان‌گذار Y Combinator را به خود جلب و او را در سن ۲۸ سالگی به مدیریت شتاب‌دهنده‌ای منسوب کند که در کارنامه‌اش، استارتاپ‌های موفقی چون Airbnb و ردیت و دراپ‌باکس به چشم می‌خورد.

آلتمن OpenAI را از هیچ به ۹۰ میلیارد دلار رساند

تحت مدیریت آلتمن، OpenAI در عرض هشت سال از یک سازمان پژوهشی غیرانتفاعی به شرکتی ۹۰ میلیارد دلاری با درآمد یک میلیارد دلار در سال تبدیل شد. اوایل امسال، آلتمن دور دنیا سفر کرد تا با رهبران جهان، استارتاپ‌ها و رگولاتورها ملاقات کند. تنها یک روز پیش از اخراجش هم در نشست منطقه‌ای اپک آسیا و اقیانوسیه در سانفرانسیسکو سخنرانی کرد.

سم آلتمن / Sam Altman مدیرعامل سابق OpenAI در کنفرانس توسعه دهندگان
آلتمن به تجاری‌سازی و توسعه‌ی سریع هوش مصنوعی اعتقاد دارد

اریک اشمیت، مدیر اجرایی سابق گوگل، در توییتی آلتمن را اینگونه توصیف کرد: «سم آلتمن قهرمان من است. او یک شرکت را از هیچ به ۹۰ میلیارد دلار رساند و دنیای جمعی ما را برای همیشه تغییر داد. من و میلیاردها نفر از کارهای آینده‌ی او سود خواهیم برد. آینده‌ای که باورنکردنی خواهد بود.»

به گفته‌ی افرادی که با آلتمن کار کرده‌اند، ویژگی برجسته‌ای او جاه‌طلبی فراوان و توانایی‌اش در جذب حمایت از اطرافیانش است. او را با القابی چون «فو‌ق‌العاده رقابت‌جو» و «مغز متفکر» توصیف کرده‌اند و یکی از آشنایانش می‌گوید که هیچ‌کس بهتر از او نمی‌داند چگونه خودش را در قدرت غرق کند.

آلتمن را فوق‌العاده جاه‌طلب و رقابت‌جو توصیف می‌کنند

تمام سرمایه‌گذاری‌های آلتمن در ساخت هوش ماشینی ارزان و درعین‌حال قدرتمند با سطح دسترسی بالا خلاصه می‌شود. او ثابت کرده که رهبری تحسین‌شده است که می‌تواند محققان برجسته‌ی جهان را حول دیدگاه خود جمع کند. به‌گفته‌ی کارمندان OpenAI، آلتمن در این شرکت پیروان فرقه‌مانند و وفادار زیادی دارد؛ همین حس وفاداری عمیق بود که باعث شد پس از اخراجش، تقریبا تمام کارمندان هیئت‌مدیره را تهدید کنند که اگر آلتمن برنگردد، دسته‌جمعی استفعا خواهند داد.

جسیکا لیوینگستون، یکی از بنیانگذاران Y Combinator هم پس از خبر اخراج آلتمن در توییتی نوشت: «دلیل اینکه من در سال ۲۰۱۵ به تاسیس OpenAI کمک کردم این نبود که به هوش مصنوعی علاقه داشتم، بلکه به این دلیل بود که به سم اعتقاد داشتم.»

به قول یکی از کارمندان OpenAI، «قدرت جادویی آلتمن در این است که می‌تواند افراد را با خود همراه کند، به روایت‌ها شکل دهد و موقعیت‌ها را به نفع خودش سوق دهد.»‌

البته با تمام اعتقادی که آلتمن به تجاری‌سازی هوش مصنوعی دارد، از خطرات آن غافل نیست. او حتی با رهبران کاخ سفید درباره‌ی اهمیت توسعه‌ی هوش مصنوعی امن صحبت کرده است.

آیا هوش مصنوعی مانند چاپ‌خانه‌ای خواهد بود که دانش، قدرت و یادگیری را به طور گسترده در سراسر دنیا پخش می‌کند و به شکوفایی افراد عادی و آزادی بیشتر منجر می‌شود؟ یا این که نه، شبیه بمب اتم خواهد بود؛ پیشرفت تکنولوژیکی بزرگ، اما با عواقب وخیم و کابوس‌وار؟
- سم آلتمن

زمانی که OpenAI تازه شروع به کار کرده بود، آلتمن به CNN گفت که به‌جای اینکه فقط دغدغه‌ی خطرات احتمالی هوش مصنوعی را داشته باشد، می‌تواند راحت بخوابد چون حالا روی شکل‌گیری هوش مصنوعی به‌صورت امن و مسئولانه نفوذ دارد.

اما آن روی سکه‌ی انقلاب هوش مصنوعی، افرادی مانند ایلیا سوتسکیور قرار دارند. ایلیای ۳۶ ساله را می‌توان مغز متفکر OpenAI دانست. این دانشمند کامپیوتر در نوشتن مقاله‌‌ی آلفاگو مشارکت داشت که عصر یادگیری عمیق، تکنولوژی مربوط به شکوفایی هوش مصنوعی را آغاز کرد. او همچنین در دانشگاه تورنتو با جفری هینتون، ملقب به پدرخواننده‌ی هوش مصنوعی،‌ شبکه‌ی عصبی AlexNet را توسعه داد که می‌توانست بهتر از هر شبکه‌ی دیگری، اجسام مختلف را در تصاویر تشخیص دهد. تولد AlexNet لحظه‌ی بیگ بنگ یادگیری عمیق بود.

Ilya Sutskever
ایلیا سوتسکیور از سرعت توسعه‌ی هوش مصنوعی نگران است

با‌این‌حال، ایلیا در مصاحبه‌هایش بیشتر از آنکه از مزیت‌های هوش مصنوعی حرف بزند، بر خطرات آن تاکید می‌کند. او اوایل امسال، رهبری گروهی در OpenAI را به دست گرفت تا راهی برای مهار سیستم‌های هوش مصنوعی فرابشری آینده پیدا کند. به باور او، این سیستم‌ها ممکن است «بسیار خطرناک باشند و به سلب قدرت از انسان‌ها یا حتی انقراض بشریت بیانجامند.»

ایلیا به‌تازگی در مصاحبه‌ای با MIT گفت که تمرکزش به جای ساخت نسخه‌‌ی بعدی مدل زبانی GPT یا مولد تصویر DALL-E این است که جلوی از افسارگسیختگی «ابرهوش مصنوعی» را بگیرد. او بر این باور است که ChatGPT ممکن است حتی همین حالا به خودآگاهی رسیده باشد و دنیا باید حواسش به قدرت واقعی تکنولوژی‌ای که OpenAI در حال توسعه‌‌ی آن است، باشد. ایلیا حتی فکر می‌کند در آینده برخی از انسان‌ها تصمیم خواهند گرفت خودشان را با ماشین‌ها پیوند بزنند.

مهم است که درباره‌ی آینده‌ی هوش مصنوعی صحبت کنیم. روزی خواهد رسید که ما به AGI دست پیدا می‌کنیم. شاید OpenAI به آن برسد، شاید هم یک شرکت دیگر. آن روز، این تکنولوژی تاریخ را به بعد و قبل خودش تقسیم خواهد کرد.
- ایلیا سوتسکیور

ایلیا در سال ۲۰۲۲ در توییتی نوشت که «شاید شبکه‌های عصبی بزرگ امروزی کمی خودآگاه باشند.» در جواب او، موری شاناهان (Murray Shanahan)، دانشمند ارشد دیپ‌مایند گوگل و مشاور علمی فیلم Ex Machina به طعنه نوشت: «همان‌طور که یک مزرعه‌ی بزرگ گندم می‌تواند کمی پاستا باشد.»

اما ایلیا درمورد خطرات AI واقعا جدی است. او هوش مصنوعی را به مغز بولتسمان (Boltzmann brain) تشبیه می‌کند؛‌ فرضیه‌ای در مکانیک کوانتومی که می‌گوید نوسانات ترمودینامیکی تصادفی در جهان باعث می‌شود مغز یا «ادراکی» خودآگاه لحظه‌ای به‌وجود آید و بعد از بین برود. انگار که تا زمانی‌که در حال صحبت با هوش مصنوعی هستید، این مدل‌ها خودآگاه می‌شوند و وقتی کارتان با آن‌ها تمام شد، هوشیاری‌شان از بین می‌رود.

دالتون کالدول (Dalton Caldwell)، مدیر سرمایه‌گذاری Y Combinator می‌گوید:

من به یاد دارم که سم از ایلیا به عنوان یکی از قابل‌احترام‌ترین محققان جهان یاد می‌کرد. او فکر می‌کرد که ایلیا می‌تواند استعدادهای برتر هوش مصنوعی را جذب کند. او حتی گفت یوشوا بنجیو، یکی از برجسته‌ترین متخصصان هوش مصنوعی جهان، معتقد است که بهتر از ایلیا نمی‌شد برای OpenAI دانشمند ارشد انتخاب کرد.

ایلیا سوتسکیور از ظهور ابرهوش مصنوعی نگران است

درحالی که دیگران هنوز با ایده‌ی ساخت هوش مصنوعی انسان‌گونه دست‌وپنجه نرم می‌کنند، ایلیا درحال آماده شدن برای ظهور سیستم‌هایی است که می‌توانند از هوش انسان‌ها پیشی بگیرند. او این سیستم‌ها را «ابرهوش مصنوعی» (Artificial Superintelligence) می‌نامد که «چیزها را عمیق‌تر خواهند دید. چیزهایی که ما نمی‌بینیم.»

باید حواسمان باشد که هر ابرهوشی که قرار است به دست هر کسی ساخته شود، افسارگسیخته نشود.

وقتی یک سر ماجرا، اعتقاد به تجاری‌سازی هوش مصنوعی و تسریع توسعه‌ی AI باشد و سر دیگر، ترس از نابودی بشر به دست هوش مصنوعی، بحران و تنش اجتناب‌ناپذیر خواهد بود؛ مگر اینکه حد وسطی پیدا شود.

کپی لینک

همه‌چیز خواب بود؟

درنهایت، پس از پنج روز کشمکش و جایگزینی دو نفر از اعضای هیئت‌مدیره، سم آلتمن و به‌همراهش گرگ براکمن به‌طرز غافل‌گیرکننده‌ای به OpenAI بازگشتند. برگشت آلتمن به OpenAI شاید از اخراجش هم عجیب‌تر باشد، چراکه هیئت‌مدیره واقعا مصر بود جلوی این اتفاق را به هر قیمتی بگیرد. حتی سرمایه‌گذاری ۱۳ میلیارد دلاری مایکروسافت هم نتوانسته بود در تصمیم هیئت‌مدیره تاثیرگذار باشد.

آلتمن در توییت چهارشنبه از بازگشتش به OpenAI خبر داد:

من عاشق OpenAI هستم و هر کاری که در چند روز گذشته انجام دادم برای کنار هم نگه داشتن تیم و ماموریتش بوده است. وقتی عصر یک‌شنبه تصمیم گرفتم به مایکروسافت ملحق شوم، مشخصا آن کار بهترین مسیر برای من و تیم OpenAI بود. به‌لطف هیئت‌مدیره‌ی جدید و حمایت ساتیا نادلا، من مشتاقانه منتظر بازگشت به OpenAI و ادامه‌‌ی همکاری عمیقمان با مایکروسافت هستم.

ساتیا نادلا هم پس از شنیدن خبر بازگشت آلتمن گفت:

ما از تغییرات هیئت‌مدیره‌ی OpenAI دل‌گرم شدیم. ما معتقدیم که این اولین قدم اساسی در مسیری است که به مدیریت باثبات‌تر، آگاهانه‌تر و مؤثرتر منتهی خواهد شد. سم، گرگ و من صحبت کردیم و به توافق رسیدیم که آن‌ها نقشی کلیدی در کنار تیم رهبری OpenAI دارند تا مطمئن شوند که OpenAI به رشد ادامه می‌دهد و اهدافش را عملی می‌کند. مشتاقانه منتظریم که شراکت قوی‌مان را تقویت کنیم و ارزش نسل بعدی هوش مصنوعی را به مصرف‌کنندگان و شرکای تجاری‌مان ارائه دهیم.

بازگشت آلتمن به OpenAI بعد از چند روز پر التهاب مثل تماشای فیلمی است که در پایان، کاراکترها بیدار می‌شوند و می‌بینند تمام اتفاقاتی که از سر گذرانده‌اند، خواب بوده است! اما پشت این ماجرا، داستان مهم‌تری در جریان است؛ دلیلی که احتمالا باعث اخراج آلتمن شده بود.

OpenAI برخلاف اسمش که از هوش مصنوعی متن‌باز حرف می‌زند، شرکت چندان روراستی نیست و اکثر اتفاقاتی که پشت دیوارهای آن می‌افتد، از دید خبرنگاران و عموم مردم پنهان است. ماجرای اخراج آلتمن برای اولین بار ساختار مدیریتی عجیب و ناکارآمد این شرکت را زیر ذره‌بین رسانه‌ها قرار داد و تنش بین آلتمن و سوتسکیور به نگرانی درباره‌ی آینده‌ی تکنولوژی دامن زد.

openai team
چقدر OpenAI با تبدیل شدن به «نابودگر جهان‌ها» فاصله دارد؟

می‌توان با اطمینان گفت تقریبا تمام شرکت‌های فعال در حوزه‌ی هوش مصنوعی به دنبال دستیابی به AGI یا «هوش مصنوعی قوی» هستند؛ همان سطح از هوشمندی ماشینی که در فیلم‌های علمی‌تخیلی نظیر ترمیناتور و Her می‌بینیم. و تقریبا همه معتقد هستند که این رویا (یا کابوس؛ بستگی به میزان خوش‌بینی‌تان دارد) روزی به حقیقت می‌پیوند. در این بین، شرکت OpenAI بر این باور است که تمام روش‌ها و تکنولوژی‌های لازم برای رسیدن به AGI همین‌حالا وجود دارد، فقط باید راهی پیدا کرد تا آن‌ها را به روش مؤثری کنار‌هم چید و در مقیاس به‌مراتب وسیع‌تری اجرا کرد.

دانشمندان OpenAI همچنین پیش‌بینی می‌کنند تا ۱۰ سال دیگر به AGI می‌رسند. اگر OpenAI منحل شود، اگر آلتمن و تیمش روزی بخواهند به مایکروسافت بپیوندند، اگر نه، همه‌چیز طبق روال پیش رود و قدرت و نفوذ آلتمن در این شرکت رو‌زبه‌روز بیشتر شود و توسعه‌ی هوش مصنوعی با سرعت هرچه تمام پیش رود، همه‌ی این‌ها درنهایت ما را با این علامت سوال بزرگ روبه‌رو می‌کند:

چقدر افرادی مثل سم آلتمن با تبدیل شدن به «نابودگر جهان‌ها» فاصله دارند؟ آیا بشر برای مهار تکنولوژی هوش مصنوعی به‌اندازه‌ی کافی آماده است یا فاجعه‌ی جهانی دیگری در راه است؟

مقاله رو دوست داشتی؟
نظرت چیه؟
تبلیغات
در حال مطالعه لیست مطالعاتی هستی
0
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
تبلیغات

نظرات

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات