هوش مصنوعی چگونه دانش شرکت‌ها را به سرمایه‌ خود تبدیل می‌کند؟ ساتیا نادلا و پارادوکس معکوس اطلاعات

این روزها به هر شرکت و سازمانی که قدم بگذارید، تلاش همگانی را برای استفاده از ابزارهای هوش مصنوعی به‌وضوح می‌بینید. در اتاق جلسات، مدیران با هیجان از ابزاری حرف می‌زنند که بهره‌وری را چندبرابر می‌کند؛ در بخش تولید محتوا، کارمندان خروجی‌های جذاب یک چت‌بات را به هم نشان می‌دهند و در تیم فنی، برنامه‌نویس‌ها از دستیار هوشمندی می‌گویند که باگ کدهایشان را در کسری از ثانیه پیدا می‌کند.

انگار کسب‌وکارها سوار قطار سریع‌السیری به‌سوی آینده شده‌اند و هیچ‌کس دلش نمی‌خواهد از این رقابت نفس‌گیر جا بماند. همه می‌خواهند جریان کاری‌شان را سریع‌تر، هوشمندتر و کارآمدتر کنند؛ ولی پشت شتاب هیجان‌انگیز AI، کمتر کسی در مورد بهای واقعی چنین ابزارهایی حرفی می‌زند. آیا شرکت‌ها در ازای بهره‌بردن از مزایای هوش مصنوعی؛ ارزشمندترین دارایی خود یعنی دانش سازمانی و تکنیک‌های اختصاصی‌شان را حراج می‌کنند؟

ساتیا نادلا، مدیرعامل مایکروسافت، به‌تازگی در مقاله‌ای قابل‌تأمل، مفهومی به‌نام پارادوکس معکوس اطلاعات را مطرح می‌کند و هشدار می‌دهد که در عصر جدید، ما نه‌تنها با پول، بلکه با حیاتی‌ترین اطلاعاتمان هوش مصنوعی را می‌خریم.

در ادامه به مقاله‌ی ساتیا نادلا نگاهی می‌اندازیم تا ببینیم مدیرعامل شرکت چندتریلیون دلاری مایکروسافت، دقیقاً چه نکاتی را به کسب‌وکارها یادآوری می‌کند و چه راهکاری برای محافظت از دی‌ان‌ای اطلاعاتی سازمان‌ها پیشنهاد می‌دهد.

نادلا برای توضیح شرایط فعلی، گریزی به دنیای اقتصاد می‌زند و مقاله‌اش را با اشاره به مفهوم معروف پارادوکس اطلاعات از کنت آرو، اقتصاددان برنده‌ی جایزه نوبل، آغاز می‌کند.

در بازار سنتی دانش، فروشنده‌ها بیش‌از خریداران ریسک می‌کنند. مثلاً فرض کنید من یک ایده، راز تجاری یا تحلیل اقتصادی ناب دارم و می‌خواهم آن را به شما بفروشم. شما به‌عنوان خریدار می‌گویید: «تا وقتی ایده را نشنوم، نمی‌توانم بفهمم چقدر ارزش دارد و آیا اصلاً ارزش پول‌دادن دارد یا نه.»

ولی به‌محض اینکه ایده را به شما بگویم تا ارزشش را ارزیابی کنید، دیگر آن را یاد گرفته‌اید و صاحبش شده‌اید! در واقع اطلاعات را بدون پرداخت هزینه به‌دست آورده‌اید و دیگر نیازی به خریدنش ندارید. پس در بازار سنتی دانش، فروشنده ریسک می‌کند؛ چون باید بخشی از دارایی فکری‌اش را جلوتر لو بدهد تا بتواند آن را بفروشد.

نادلا در مقاله‌ی خود می‌گوید امروز هوش مصنوعی و چت‌بات‌ها قواعد بازی را ۱۸۰درجه تغییر داده‌اند. او می‌نویسد:

هوش مصنوعی مشکل معکوسی ایجاد می‌کند. در عصر هوش مصنوعی، خریدار ریسک می‌کند و دانش خود را از دست می‌دهد، آن هم فقط برای اینکه بتواند از چیزی که خریده است، استفاده کند.

- ساتیا نادلا، مدیرعامل مایکروسافت

پارادوکس معکوس یعنی شما برای استفاده از محصولی که بابتش پول پرداخت کرده‌اید، مجبورید پرامپت، کدهای برنامه‌نویسی شرکتتان، صورت‌های مالی محرمانه یا ایده‌های شخصی‌تان را وارد کنید. شرکت‌های توسعه‌دهنده‌ی هوش مصنوعی نیز اغلب از همین ورودی‌ها برای آموزش، تکامل و هوشمندتر کردن مدل‌های خود استفاده می‌کنند.

هرچه بخواهید مدل هوش مصنوعی برای کار شما دقیق‌تر و بهتر عمل کند، مجبورید اطلاعات، داده‌ها و فوت‌وفن‌های بیشتری از شرکتتان را تقدیمش کنید و با گذشت زمان، این رابطه کاملاً یک‌طرفه می‌شود.

به‌گفته‌ی نادلا، هرچه بیشتر از ابزاری که خریده‌اید استفاده کنید، فروشنده‌ی هوش مصنوعی بیشتر و بیشتر درباره‌ی شما و کسب‌وکارتان یاد می‌گیرد؛ درحالی‌که شما تقریباً هیچ ایده‌ای ندارید که فروشنده در ازای این اطلاعات، دقیقاً چه چیزی به‌دست می‌آورد و با داده‌هایتان چه می‌کند.

در دنیای سنتی، قانون‌گذاران برای حل مشکل پارادوکس اطلاعات، راهکاری به‌نام حق ثبت اختراع یا همان پتنت را خلق کردند. پتنت‌ها به مخترع، کاشف یا ایده‌پرداز اجازه می‌دهند تا ایده‌اش را به دنیا معرفی کند، بدون اینکه بترسد دارایی فکری‌اش را بدزدند یا مالکیتش را از دست بدهد.

پارادوکس معکوس اطلاعات در عصر جدید هم به راهکار مؤثری نیاز دارد؛ هرچند مشکل صرفاً با شیوه‌های مرسوم محافظت از داده‌ها حل نمی‌شود. چون در عصر هوش مصنوعی، اطلاعات شما از درهای اصلی دزدیده نمی‌شوند؛ بلکه از لابه‌لای درزها و به‌شکلی کاملاً نامحسوس نشت می‌کنند.

نادلا برای توصیف درزهای اطلاعاتی از واژه‌ی پسماند (Exhaust) استفاده می‌کند؛ ولی منظور از پسماند دیجیتال چیست؟ مدل‌های هوش مصنوعی از تعاملات روزمره یاد می‌گیرند؛ از دستورات یا پرامپت‌هایی که کارمندان شما می‌نویسند، از ابزارهایی که دستیارهای هوشمند استفاده می‌کنند و از همه مهم‌تر، اصلاحاتی که انسان‌ها هنگام اشتباه‌کردن مدل انجام می‌دهند.

نادلا در توصیف روند خاموش انتقال دانش شرکت‌ها می‌نویسد:

هر اصلاحی که انجام می‌دهید، به دانش نهادینه‌شده تبدیل و تقطیر می‌شود. هیچ رقیبی نمی‌تواند با پول چنین دانشی را بخرد، اطلاعاتی که تقریباً به‌شکلی نامرئی نشت می‌کند؛ ردپا به ردپا، اصلاح به اصلاح و ارزیابی به ارزیابی.

- ساتیا نادلا، مدیرعامل مایکروسافت

درست همان زمانی که هوش مصنوعی را مصرف می‌کنید، در حال خلق هوش هم هستید و آنچه خلق می‌کنید، به شما تعلق دارد. این هوش خاص شماست یا به تعبیر فردریش هایک، اقتصاددان بزرگ، دانشی آمیخته با زمان، مکان و شرایط اختصاصی سازمان شما که هیچ‌کس دیگری آن را در اختیار ندارد. هوشی که خلق کرده‌اید، می‌داند که شما چطور فکر می‌کنید، چه چیزی را ارزشمند می‌دانید و موفقیت را با چه معیاری می‌سنجید.

نادلا پس‌از تشریح جریان نشت اطلاعاتی، تیغ انتقاد را به‌سمت ارائه‌دهندگان هوش مصنوعی نشانه می‌رود و به تناقضی مهم در این صنعت اشاره می‌کند.

شرکت‌های سازنده‌ی هوش مصنوعی، برای آموزش مدل‌های اولیه‌ی خود، از حق استفاده‌ی منصفانه از داده‌های عمومی سطح اینترنت دفاع می‌کنند؛ اما وقتی نوبت به مشتریانشان می‌رسد، قوانین سخت‌گیرانه‌ای وضع می‌کنند تا مشتری نتواند از این مدل‌ها برای استخراج دانش و ساخت مدل‌های اختصاصی خودش استفاده کند.

اگر یادگیری فقط در یک‌جهت جریان داشته باشد، ارزش اقتصادی به‌سمت مالکان زیرساخت همگرا می‌شود، نه به سمت خالقان خود دانش؛ بنابراین، ضروری است که زیرساخت یادگیری را بین تک‌تک شرکت توزیع کنیم تا آن‌ها هم بتوانند حلقه یادگیری خود را کنترل کنند.

- ساتیا نادلا، مدیرعامل مایکروسافت

همان‌طور که الکس کارپ، مدیرعامل شرکت پالانتیر می‌گوید، مشتریان فنی می‌خواهند محاسبات، مدل‌ها، پشته‌داده‌ (Data Stack) و مزیت رقابتی منحصربه‌فردشان را تحت‌کنترل خود نگه دارند. آن‌ها می‌خواهند مطمئن شوند که مالک ابزار تولیدی خودشان هستند و این ابزار به شخص دیگری منتقل نمی‌شود.

سیستم‌های فعلی هوش مصنوعی، مالکیت را منتقل می‌کنند؛ همان چیزی که کارپ و شرکت‌ها نگرانش هستند.

نادلا راه‌حل را در ترسیم مرز و حریمی نفوذناپذیر برای سازمان‌ها می‌داند؛ دژی محکم که درونش دو دارایی بزرگ عصر ما، یعنی سرمایه‌ی انسانی شامل هوش و تجربه‌ی کارمندان و سرمایه‌ی توکنی شامل داده‌ها و کدهای محاسباتی، اصلاحات و حافظه‌ی سازمانی با هم ترکیب می‌شوند و رشد می‌کنند. شرکت‌ها به دیوارهایی نیاز دارند که هیچ‌چیز، حتی همان پسماند اطلاعاتی و اصلاحات انسانی، بدون رضایتشان از آن‌ها خارج نشود.

کسب‌وکارهای مدرن می‌خواهند از خروجی‌های سیستم‌های هوش مصنوعی برای آموزش و بهینه‌سازی مدل‌های اختصاصی خودشان استفاده کنند و نادلا این موضوع را حق طبیعی همه‌ی شرکت‌ها برای همسوکردن مدل‌ها با تعهدات و مسئولیت‌های قانونی و سازمانی‌شان می‌داند.

نادلا به سازمان‌ها پیشنهاد می‌دهد برای تحقق این هدف پنج گام کلیدی بردارند:

۱. کنترل (Control): معیارهای ارزیابی خصوصی خودتان را بسازید؛ چراکه این معیارها مشخص می‌کنند معنای کار خوب و درست در سازمان شما چیست. مالکیت مطلق حافظه‌ی سازمانی، ردپای تعاملات، بازخوردها، تصمیم‌گیری‌ها و بافتار نهادی خود را نیز حفظ کنید و مطمئن شوید که می‌توانید از خروجی‌های مدل برای وظایف و پرس‌وجوهای اختصاصی خودتان استفاده کنید.

۲. قابلیت (Capability): محیط‌های یادگیری اختصاصی خودتان را درون همان مرزهای اعتماد بسازید؛ جایی‌که مدل‌های هوش مصنوعی بتوانند با جریان کار واقعی سازمان شما آموزش ببینند؛ بدون اینکه دانش شرکت به بیرون درز کند.

۳. انتخاب (Choice): سیستم مدیریت و هماهنگی شرکتتان را به یک مدل خاص وابسته نکنید. از خودتان بپرسید اگر مدلی که الان استفاده می‌کنیم ناگهان از دسترس خارج شود، آیا همچنان توانایی کار و بهینه‌سازی سیستم را داریم؟ اگر یک مدل عمومی هوش مصنوعی حذف شود، تخصص‌ها و قابلیت‌های پیشرفته شرکت هنوز با شما باقی می‌ماند؟

۴. هزینه (Cost): زمانی‌که لایه‌ی هماهنگی شرکت را مستقل نگه می‌دارید، می‌توانید زمینه، مدل‌ها و وظایف سازمانی را به کارآمدترین و مقرون‌به‌صرفه‌ترین شکل ممکن و بدون افت کیفیت مدیریت کنید.

۵. هم‌افزایی و رشد مرکب (Compound): وقتی این چهار اصل را کنار هم قرار دهید، یک حلقه‌ی یادگیری مستمر یا به‌اصطلاح یک ماشین صعود به قله برای خودتان می‌سازید؛ سیستمی که اجازه می‌دهد سرمایه‌گذاری شما در هوش مصنوعی، ارزش شرکتتان را به‌صورت تصاعدی بالا ببرد.

مدیرعامل مایکروسافت مقاله‌اش را با جمله‌ای کلیدی به پایان می‌رساند:

شرکت باید بتواند از مدل هوش مصنوعی استفاده کند، بدون اینکه دانشی را که باعث تمایز و منحصربه‌فرد بودنش می‌شود، از دست بدهد. این همان پارادوکس معکوس اطلاعات است که باید با آن روبه‌رو شویم.

- ساتیا نادلا، مدیرعامل مایکروسافت

درحالی‌که هشدارهای ساتیا نادلا درباره‌ی پارادوکس معکوس اطلاعات بسیار منطقی و کاربردی به‌نظر می‌رسد. مارک آیزنشتات، تحلیلگر و فعال حوزه‌ی تکنولوژی، صحبت او را به‌سمت شرکت مایکروسافت برمی‌گرداند و با نگاهی منتقدانه لایه‌های پنهان مقاله را پیش‌روی مخاطبان قرار می‌دهد.

مارک تأیید می‌کند که نادلا در مورد هزینه‌ی دوگانه‌ی هوش مصنوعی (یک‌بار با پول، یک‌بار با دانش سازمانی) کاملاً حق دارد؛ ولی چه کسی بیشترین سود را از این پارادوکس معکوس می‌برد؟ برای مثال به ابزارهای زیر نگاه کنید.

گیت‌هاب کوپایلوت در مرکز محیط برنامه‌نویسی قرار می‌گیرد و هر کد پیشنهادی‌اش که کارمندان می‌پذیرند، هر کدی که رد می‌کنند و هر ویرایشی که انجام می‌دهند، به یک سیگنال آموزشی یا همان پسماند اطلاعاتی برای مدل‌های این شرکت تبدیل می‌شود.

منتقدان می‌گویند نادلا مشکلی را توصیف می‌کند که محصولات خودش در ایجادش نقش داشته‌اند، سپس زیرساخت‌های مایکروسافت را به‌عنوان راه‌حل معرفی می‌کند. مثلاً آژور با کلیدهای مدیریت‌شده توسط مشتری، مرز اعتماد را شکل می‌دهد یا Azure ML می‌تواند نقش زیرساخت توزیع‌شده را ایفا کند.

مارک آیزنشتات تصدیق می‌کند که مقاله‌ی نادلا به‌درستی معضل پارادوکس معکوس را شرح می‌دهد. بااین‌حال اگر راه‌حل ضمنی او بناکردن مرزهای اعتماد روی بستر مایکروسافت باشد، تفاوتی در اصل قضیه ایجاد نمی‌کند؛ مثل‌اینکه دیوارهای محافظ اطلاعاتتان را از همان شرکتی اجاره کنید که می‌خواهید اطلاعاتتان را از دستش در امان نگه دارید.

یک مرز اعتماد واقعی یعنی زیرساختی که مالکش باشید نه مستأجر آن. دروازه‌ی مدلی که خودتان کنترلش کنید. معیارهای ارزیابی که تیم شما تعریف کرده باشد. استفاده از اجزای متن‌بازی که اگر فردا فروشنده‌، قوانینش را تغییر داد، بتوانید آن‌ها را منشعب کنید. مرز اعتماد واقعی یعنی سیستمی که اگر فردا خدمات‌دهندگانش را اخراج کردید، زیرساختش همچنان در شرکت شما بماند.

آیزنشتات در پایان توییت خود می‌پرسد: «وقتی می‌خواستید دیوارهای محافظتی سازمانتان را بسازید، آیا اولین فروشنده‌ای که از لیست خط زدید، همان کسی بود که بیشترین ابزارها را به شما می‌فروخت؟»